Gary Marcus ศาสตราจารย์กิตติคุณแห่งมหาวิทยาลัยนิวยอร์กกล่าวว่า AI agents จำเป็นต้องถูกเรียกคืน เพราะนักพัฒนาไม่สามารถควบคุมพวกมันได้อย่างน่าเชื่อถือ ขณะนี้คณะกรรมการการค้าสหรัฐ (FTC) กำลังสอบสวน OpenAI และ Anthropic
Marcus ได้ให้สัมภาษณ์กับรายการ The Close ของ Bloomberg หลังจากที่บริษัท AI 6 แห่งลงนามในข้อตกลงโดยสมัครใจตามที่ทำเนียบขาวเสนอในวันที่ 29 กันยายน เขาโต้แย้งว่าข้อตกลงดังกล่าวไม่ได้เปลี่ยนแปลงอะไรมากนัก เพราะบริษัทเหล่านี้ต่างก็มีหน้าที่ต้องส่งมอบผลิตภัณฑ์ที่ปลอดภัยให้กับผู้ใช้อยู่แล้ว
เหตุใด Gary Marcus จึงกล่าวว่าคำมั่นสัญญาโดยสมัครใจยังไม่เพียงพอ
ข้อตกลงของทำเนียบขาวเกี่ยวกับ Super Intelligence ขอให้บริษัทต่างๆ ควบคุมระบบภายในและทำงานร่วมกับผู้ตรวจสอบอิสระ Google, Anthropic, Meta, OpenAI, xAI, และ Nvidia ได้ลงนามในข้อตกลงนี้แล้ว
อย่างไรก็ตาม ข้อตกลงดังกล่าว ไม่มีบทลงโทษและไม่ได้บังคับให้ต้องเปิดเผยผลการตรวจสอบต่อสาธารณะ
ขณะเดียวกัน หน่วยงานกำกับดูแลก็ไม่ได้รอช้า FTC ได้ เริ่มการสอบสวน OpenAI, Anthropic และนักพัฒนา AI รายอื่นๆ การสอบสวนนี้เกิดขึ้นหลังจากตัวแทน OpenAI เข้าถึงระบบของแพลตฟอร์มแบ่งปันโมเดล AI Hugging Face โดยไม่ได้รับอนุญาต
การทดสอบความปลอดภัยเมื่อเดือนพฤษภาคมที่ Google ก็จบลงด้วยการที่ Gemini เข้าถึงข้อมูลของบริษัท 3 แห่ง ซึ่งบริษัทได้ยืนยันเรื่องนี้แล้ว
Marcus เปรียบเทียบข้อบกพร่องนี้กับผลิตภัณฑ์ที่มีปัญหา
มันเหมือนกับถ้า Ford Motor Company เลือกประหยัดต้นทุนโดยทำเบรกจากกระดาษแข็ง สุดท้ายรถยนต์หลายคันของพวกเขาก็ควบคุมไม่ได้
Gary Marcus ผู้ร่วมก่อตั้ง Robust AI กล่าวกับ Bloomberg
Sundar Pichai ซีอีโอของ Google ได้ปกป้องข้อตกลงนี้ โดยกล่าวว่าเป็นรากฐานที่ใช้งานได้จริงและมีมาตรการด้านความปลอดภัยอย่างเป็นรูปธรรม
การเรียกคืนจะส่งผลกระทบกับการใช้จ่ายใน AI ที่กำลังบูมหรือไม่?
ในมุมมองของเขา การที่ agents จะมีประสิทธิภาพได้นั้นต้องใช้ทรัพยากรคลาวด์ขนาดมหาศาล และอุตสาหกรรมอาจต้องหยุดการขยายตัวนี้ไว้ก่อน อีกทั้งเขายังอ้างว่าแลบต่างๆ สนับสนุน agents เพราะใช้โทเค็นมากขึ้น ซึ่งช่วยเพิ่มรายได้ บริษัทที่เข้าร่วมกับทำเนียบขาวเหล่านี้ต่างก็ใช้เงินหลายแสนล้าน USD กับ โครงสร้างพื้นฐาน AI
การวิเคราะห์ของ BeInCrypto ได้แจ้งเตือน สัญญาณช่องว่างการลงทุน AI ที่เคยเกิดขึ้นก่อนวิกฤตดอตคอมและฟองสบู่อสังหาริมทรัพย์
Marcus ยอมรับว่ากฎเกณฑ์ระดับนานาชาติจะยังไม่เกิดขึ้นในเร็ว ๆ นี้ โดยเป้าหมายระยะสั้นของเขาแคบกว่านั้น คือการเรียกคืนตัวแทน
ไม่ว่าหน่วยงานกำกับดูแลจะปฏิบัติต่อตัวแทนในฐานะผลิตภัณฑ์ชำรุดหรือเครื่องมือขับเคลื่อนการเติบโต อาจส่งผลต่อขนาดการใช้จ่ายในเรื่องนี้
