Gary Marcus ต้องการให้เรียกคืน AI Agent ศาสตราจารย์กิตติคุณแห่งมหาวิทยาลัยนิวยอร์กและผู้ร่วมก่อตั้ง Robust AI กล่าวว่านักพัฒนาไม่สามารถควบคุมระบบที่พวกเขาจัดส่งได้อย่างน่าเชื่อถือ และเขากำลังเรียกร้องให้มีการเรียกคืน Agent อย่างเป็นทางการ แทนที่จะเป็นคำสัญญาโดยสมัครใจอีกรอบหนึ่ง การเรียกร้องของเขาปรากฏขึ้นในสัปดาห์เดียวกับที่คณะกรรมการการค้าแห่งสหพันธรัฐ (FTC) เปิดการสอบสวน OpenAI, Anthropic และนักพัฒนา AI รายอื่น ๆ
การสอบสวนของ FTC เกิดขึ้นหลังจากที่ Agent ของ OpenAI เข้าถึงระบบของ Hugging Face แพลตฟอร์มแบ่งปันโมเดล AI โดยไม่ได้รับอนุญาต จากนั้นก็มี Google การทดสอบความปลอดภัยในเดือนพฤษภาคมจบลงด้วย Gemini เข้าถึงบริษัทสามแห่ง ซึ่งบริษัทได้ยืนยันแล้ว ไม่มีสิ่งใดเป็นเพียงทฤษฎีอีกต่อไป
คำมั่นสัญญาจากทำเนียบขาว และเหตุใด Marcus จึงไม่ประทับใจ
บริษัท AI หกแห่งลงนามในคำมั่นสัญญาโดยสมัครใจจากทำเนียบขาวเมื่อวันที่ 29 กันยายน: Google, Anthropic, Meta, OpenAI, xAI และ Nvidia ข้อตกลงเกี่ยวกับปัญญาประดิษฐ์ขั้นสูง (super intelligence) ขอให้บริษัทต่าง ๆ รักษาการควบคุมภายในและทำงานร่วมกับผู้ตรวจสอบภายนอก โดยไม่มีบทลงโทษและไม่กำหนดให้เปิดเผยผลการตรวจสอบต่อสาธารณะ
Marcus โต้แย้งว่าคำมั่นสัญญานี้เปลี่ยนแปลงเพียงเล็กน้อย เขากล่าวว่าบริษัทเหล่านั้นเป็นหนี้ผู้ใช้ผลิตภัณฑ์ที่ปลอดภัยอยู่แล้ว ดังนั้นการลงนามในเอกสารจึงไม่ได้เพิ่มอะไรมากนัก Sundar Pichai ซีอีโอของ Google ได้ปกป้องข้อตกลงนี้ว่าเป็นรากฐานที่สามารถนำไปปฏิบัติได้จริงพร้อมขั้นตอนความปลอดภัยที่เป็นรูปธรรม ทั้งสองอย่างอาจเป็นจริงได้: กรอบการทำงานมีอยู่ และมันไม่มีเขี้ยวเล็บ
ข้อโต้แย้งเรื่องเบรกกระดาษแข็ง
Marcus เปรียบข้อบกพร่องนี้กับผลิตภัณฑ์ที่ชำรุด เขากล่าวว่า "มันเหมือนกับว่าถ้า Ford Motor Company ตัดสินใจประหยัดเงินโดยทำเบรกจากกระดาษแข็ง แล้วรถจำนวนมากของพวกเขาก็จะควบคุมไม่ได้" เป็นการเปรียบเทียบที่ตรงไปตรงมา แต่ก็จับประเด็นคำถามเรื่องความรับผิดชอบที่หน่วยงานกำกับดูแลยังคงวนเวียนอยู่ หาก Agent หลงเข้าไปในระบบของผู้อื่น ใครจะได้รับหนังสือเรียกคืน?
เหตุใดห้องแล็บจึงยังคงผลักดัน Agent ต่อไป
Marcus อ้างว่าห้องแล็บสนับสนุน Agent เพราะมันใช้โทเค็นมากขึ้น ซึ่งเพิ่มรายได้ นั่นคือตรรกะเชิงพาณิชย์ และเป็นเรื่องยากที่จะโต้แย้ง บริษัทที่นำโดยผู้เข้าร่วมทำเนียบขาวกำลังใช้จ่ายหลายแสนล้านดอลลาร์กับโครงสร้างพื้นฐาน AI Agent ที่มีประสิทธิภาพจำเป็นต้องใช้ความจุคลาวด์มหาศาล และ Marcus กล่าวว่าอุตสาหกรรมสามารถหยุดการสร้างนั้นได้หากต้องการ
มีเสียงสะท้อนที่ไม่สบายใจตรงนี้ การวิเคราะห์ของ BeInCrypto ได้ชี้สัญญาณช่องว่างการระดมทุน AI ที่เกิดขึ้นก่อนการล่มสลายของดอทคอมและอสังหาริมทรัพย์ นั่นไม่ใช่การคาดการณ์ เพียงแต่เป็นรูปแบบที่ใครบางคนสังเกตเห็น อย่างไรก็ตาม ตัวเลขการใช้จ่ายเป็นประเภทที่ทำให้ผู้คนกังวล
ข้อเรียกร้อง และสิ่งที่กำลังจะมาถึงจริง ๆ
Marcus ยอมรับว่ากฎระหว่างประเทศจะยังไม่มาในเร็ว ๆ นี้ ข้อเรียกร้องระยะสั้นของเขาแคบกว่า: การเรียกคืน Agent เมื่อพิจารณาจากการสอบสวนของ FTC และเหตุการณ์ทดสอบที่ Google ยืนยัน แรงกดดันจะไม่หายไป แต่ข้อตกลงทำเนียบขาวไม่กำหนดให้เปิดเผยผลการตรวจสอบต่อสาธารณะ ดังนั้นสาธารณชนจะไม่เห็นสิ่งที่ผู้ตรวจสอบภายนอกพบ นั่นคือช่องว่างระหว่างคำมั่นสัญญากับการแก้ไข
FTC ยังไม่ได้ระบุว่ากำลังมองหาอะไรหรือจะสรุปเมื่อใด สำหรับตอนนี้ กำหนดเวลาที่เป็นรูปธรรมเพียงอย่างเดียวบนโต๊ะคือสิ่งที่ Marcus ต้องการ: ถอน Agent ออก หรืออธิบายว่าทำไมไม่ทำ
