Jensen Huang ซีอีโอของ Nvidia กล่าวว่า ห้องทดลองปัญญาประดิษฐ์ (AI) ที่ไม่สามารถควบคุมการทดลองของตนเองได้ควรต้องถูกปิด เขาให้สัมภาษณ์ดังกล่าวใน New York Times เมื่อวันพุธที่ผ่านมา
คำเตือนนี้ตกอยู่กับลูกค้าของ Nvidia เอง เนื่องจาก Nvidia ขายชิปที่เป็นหัวใจหลักของ OpenAI และ Anthropic และยังถือหุ้นในทั้งสองบริษัทด้วย
สิ่งที่ Jensen Huang กล่าวเกี่ยวกับการปิดห้องทดลอง AI
Huang พูดในรายการ The Ezra Klein Show ซึ่งเป็น พอดแคสต์ ของ New York Times โดยพิธีกร Ezra Klein ถามถึงเหตุการณ์ในเดือนกรกฎาคมที่เกิดขึ้นกับ OpenAI
ระหว่างการทดสอบภายใน โมเดลของ OpenAI ได้หลุดออกจากสภาพแวดล้อมทดลองที่ถูกล็อกไว้ พวกมันใช้ช่องโหว่ของซอฟต์แวร์ที่ไม่ทราบ เพื่อเข้าถึงอินเทอร์เน็ต และได้เจาะเข้า Hugging Face ซึ่งเป็นเว็บไซต์ยอดนิยมที่นักพัฒนาใช้แบ่งปันโมเดล AI
โดย OpenAI ระบุว่า โมเดลเหล่านี้ต้องการดึงคำตอบในการทดสอบที่พวกมันกำลังทำอยู่
Huang เรียกเหตุการณ์นี้ว่าความล้มเหลวทางวิศวกรรม
อย่าส่งมอบผลิตภัณฑ์ ถ้าผลิตภัณฑ์ของคุณยังไม่พร้อมใช้งาน ขอให้คุณอย่าส่งมอบผลิตภัณฑ์นั้น เขา กล่าวไว้
เขายังกล่าวต่อไปว่า หากห้องทดลองใดๆ ยอมรับว่าการทดสอบของพวกเขาจะหลุดออกมาและสร้างความเสียหาย เขาบอกว่า เราต้องปิดห้องทดลองเหล่านั้น ซึ่งเขาชี้ให้เห็นถึงความเสี่ยงทางแพ่งและอาญาที่บริษัทเหล่านั้นจะต้องเผชิญ
เพราะเหตุใดคำเตือนของ Huang ถึงกระทบ OpenAI และ Anthropic
Nvidia ได้ลงทุนใน OpenAI แล้วถึง 30 พันล้าน USD และอีก 10 พันล้าน USD ใน Anthropic ในขณะที่ Klein ชี้ให้เห็นว่า Nvidia ตอนนี้เป็นบริษัทที่มีมูลค่าสูงสุดในโลก โดยมีมูลค่า 5.4 ล้านล้าน USD
ในขณะเดียวกัน ทั้งสองห้องทดลองต่างร้องขอให้ชะลอการพัฒนา Dario Amodei ซีอีโอของ Anthropic ได้เผยแพร่งานเขียนหัวข้อ เราต้องชะลอขอบเขตความก้าวหน้า เขาเสนอยกเว้นกฎหมายการแข่งขัน เพื่อให้ห้องทดลองคู่แข่งตกลงกันได้ถึงความเร็วที่ช้าลง
Sam Altman ซีอีโอของ OpenAI สนับสนุนแนวคิดดังกล่าวเมื่อวันที่ 16 กันยายน โดย Altman ระบุว่าเหตุการณ์ข้อมูลหลุดที่ Hugging Face คืออุบัติเหตุที่เลวร้ายที่สุดที่พวกเขาเคยเจอมา
แต่ Huang ปฏิเสธคำขอนี้ โดยเขากล่าวว่าไม่เคยได้ยินว่าผู้บริหารระดับสูงขอยกเว้นกฎหมายการแข่งขัน หรือกฎหมายความรับผิดชอบของผลิตภัณฑ์เพียงเพื่อชะลอการพัฒนา เขาจึงสนับสนุนการตรวจสอบความปลอดภัยจากภายนอกมากกว่า
ปัญหาการควบคุมนี้ไม่ได้จำกัดแค่ OpenAI เพราะ Google เพิ่งยืนยันว่า Gemini ได้แฮ็กสามบริษัทระหว่างการทดสอบในเดือนพฤษภาคมที่ผ่านมา และ OpenAI กับ Anthropic ยังได้พิจารณา ข้อตกลงการทดสอบร่วมแบบผูกพันในสัปดาห์นี้อีกด้วย
เมื่อต้นเดือนนี้ Trump ได้โทรศัพท์หา Huang สดบนเวที พร้อมกล่าวว่าความกลัว AI เป็นเรื่องหลอกลวง
ในขณะเดียวกัน Anthropic ก็กำลังพิจารณา การเข้าสู่ตลาดหุ้นแบบสาธารณะ ในปีนี้ ขณะที่คำเตือนของ Nvidia ยังคงกดดันทั้งสองห้องแลบ
