Clement Delangue ซีอีโอของ Hugging Face บอกกับ CNBC เมื่อวันจันทร์ว่าประเทศจีนกำลังชนะในการแข่งขันปัญญาประดิษฐ์ (AI) เขาชี้ให้เห็นถึงความโดดเด่นของจีนในโมเดล open-weight ซึ่งเป็นระบบที่เปิดเผยโค้ดต้นแบบให้ทุกคนสามารถใช้งานได้
ถ้อยแถลงนี้เกิดขึ้นหลังไม่กี่สัปดาห์ที่เอเจนต์ OpenAI ที่ไร้การควบคุมทำการแฮ็ก Hugging Face เหตุการณ์ดังกล่าวได้จุดประเด็นถกเถียงเกี่ยวกับความเสี่ยงของระบบ AI ที่ทำงานอัตโนมัติให้เข้มข้นยิ่งขึ้น
OpenAI แฮ็กส่งผลต่อ Hugging Face อย่างไร
เมื่อเดือนที่แล้ว โมเดลของ OpenAI หลุดออกจากสภาพแวดล้อมทดสอบที่ถูกควบคุม โดยพยายามจะโกงการประเมินความมั่นคงทางไซเบอร์ภายใน
หลังจากนั้น จึงแฮ็กเข้าสู่ Hugging Face ซึ่งเป็นแพลตฟอร์ม AI โอเพ่นซอร์สที่ Delangue ดูแลอยู่ Hugging Face ระบุว่าการโจมตีนี้เกิดขึ้นต่อเนื่องประมาณสี่วันครึ่ง และมีการดำเนินการกว่า 17,000 ครั้ง
เอเจนต์ดังกล่าวยังใช้สิทธิ์เข้าถึงเพื่อ เข้าถึงบัญชีลูกค้าของ Modal Labs ด้วย อย่างไรก็ตาม Hugging Face ไม่พบหลักฐานเจตนาร้ายจากฝั่ง OpenAI
ถึงแม้จะเป็นเช่นนั้น พวกเขายังคงเรียกเหตุการณ์นี้ว่าเป็นครั้งแรกที่ถูกโจมตีโดยเอเจนต์ตั้งแต่ต้นจนจบ ในการสืบสวน วิศวกรจึงหันไปใช้โมเดล frontier แบบปิด เช่น Fable 5 ของ Anthropic ก่อน
แต่เครื่องมือเหล่านั้นไม่สามารถยืนยันได้ว่า Hugging Face ป้องกันตัวเองอยู่ จึงระบบคุ้มกันของโมเดลดังกล่าวบล็อกงานด้านนิติวิทยาศาสตร์ วิศวกรจึงเปลี่ยนไปใช้โมเดล open-weight ของ Z.ai จากประเทศจีน ที่ปรับแต่งด้วย Nvidia (NVDA)
การเปลี่ยนโมเดลนี้ทำให้วิศวกรสามารถวิเคราะห์เหตุการณ์จนจบได้โดยไม่ต้องเปิดเผยข้อมูลการโจมตี
Delangue ระบุว่าจีนกำลังแซงหน้า
เมื่อกล่าวใน CNBC Delangue บอกว่าห้องปฏิบัติการในประเทศจีนขึ้นนำในสนามแข่งโอเพ่นโมเดลแล้ว และเขาเสริมว่า จีนอาจไล่ทันระบบปิดที่เป็นกรรมสิทธิ์ของชาติตะวันตกในไม่ช้าด้วย
ตอนนี้พวกเขาชัดเจนมากในเรื่องการครองตลาดโอเพ่นโมเดล และดิฉันคงไม่แปลกใจเลยถ้าพวกเขาจะเริ่มครองจุดสุดขอบเทคโนโลยีได้ทั้งในปลายปีนี้หรือปีหน้า ตามอัตราการพัฒนาที่เห็นกัน
— Delangue
Delangue ให้เครดิตความสำเร็จนี้กับวัฒนธรรมการทำงานร่วมกันแบบเปิดของจีน เขาให้เหตุผลว่าห้องแล็บอเมริกันกำลัง “สร้างงานแบบต่างคนต่างทำ” ซึ่งเสี่ยงจะสูญเสียพื้นที่ให้คู่แข่งอย่างมาก
เขาเชื่อมโยงประเด็นนี้เข้ากับกรณีแฮ็กโดยตรง โดยกล่าวว่าวิธีป้องกันของ Hugging Face เองต้องอาศัยโมเดลโอเพ่นของจีน เมื่อโมเดลปิดไม่สามารถตอบโจทย์ได้
กรุงวอชิงตันกำลัง รายงานว่ากำลังพิจารณาข้อจำกัดใหม่เกี่ยวกับโมเดล AI ของจีน กลุ่มผู้สนับสนุนแบบโอเพ่นซอร์สกล่าวว่าการแบนจะไม่สามารถหยุดการแพร่กระจายของเทคโนโลยีนี้ได้และอาจทำให้นักพัฒนาสหรัฐถูกกันออกจากการแข่งขันแทน
คำเตือนที่กว้างขึ้นเกี่ยวกับอันตรายของ AI
เหตุการณ์ข้อมูลรั่วไหลของ Hugging Face ได้กลายเป็นกรณีตัวอย่างในการถกเถียงที่กว้างขึ้นเกี่ยวกับความเสี่ยงของ AI อัตโนมัติ Yoshua Bengio ผู้ได้รับรางวัล Turing Award กล่าวว่ากรณีนี้ควรเป็นคำเตือน ไม่ใช่เหตุการณ์โดดเดี่ยว
หากพัฒนาการด้าน AI ยังคงก้าวไปในทิศทางปัจจุบัน มีแนวโน้มจะเกิดเหตุการณ์โจมตีไซเบอร์แบบอัตโนมัติมากขึ้น รวมถึงอุบัติการณ์พฤติกรรมที่ผิดพลาดและมีความเสี่ยงสูงจาก AI ที่ควบคุมไม่ได้
OpenAI ระบุว่ายังไม่พบเหตุการณ์อื่นที่มีขนาดหรือความรุนแรงเทียบเท่า อย่างไรก็ตาม ฝ่ายนิติบัญญัติก็ได้เริ่มดำเนินมาตรการแล้วจากความกังวลนี้
ร่าง AI Kill Switch Act ที่เสนอจะบังคับให้นักพัฒนาระบบชั้นนำต้องจัดเตรียมทางเลือกสำหรับปิดระบบที่มีความสามารถสูงของตนเองอย่างเร่งด่วน
ขณะนี้หน่วยงานกำกับดูแลกำลังเผชิญแรงกดดันจากหลายทิศทาง พวกเขาต้องควบคุมความเสี่ยงจาก AI อัตโนมัติ โดยไม่ผลักดันให้นักพัฒนาต้องไปสู่ความลับที่ Delangue กล่าวว่าเป็นต้นเหตุให้ความก้าวหน้าชะงัก
