ประธานเจ้าหน้าที่บริหารของ Anthropic คุณ Dario Amodei กล่าวต่อคณะมนตรีความมั่นคงแห่งสหประชาชาติ (UN) ว่า AI อาจเป็นความเสี่ยงต่อมนุษยชาติ ขณะที่ Sam Altman จาก OpenAI และ Clément Delangue จาก Hugging Face ก็ร่วมกันเรียกร้องให้ประสานความร่วมมือ AI ระดับโลก
ฝรั่งเศสได้จัดการประชุมครั้งนี้ขึ้นระหว่างการประชุมสมัชชาสหประชาชาติ โดยเชิญผู้บริหารแถวหน้าของอุตสาหกรรมนี้มาอยู่ต่อหน้าคณะมนตรีฯ ซึ่งมีสมาชิก 15 ประเทศ อย่างไรก็ตาม รัฐบาลแต่ละประเทศยังคงมีความเห็นต่างกันเกี่ยวกับการควบคุม AI ซึ่งเป็นอุตสาหกรรมที่เติบโตเร็วกว่ากระบวนการออกกฎส่วนใหญ่
ประเมินความเสี่ยงของ AI ต่อมนุษยชาติ
Amodei บอกกับคณะมนตรีว่าการจัดการความเสี่ยงของ AI ต้องอาศัยการดำเนินการอย่างประสานงานจากทั้งรัฐบาลและบริษัททุกแห่งที่เกี่ยวข้อง
AI อาจเป็นความเสี่ยงต่อมนุษยชาติทั้งหมด
Dario Amodei, ผ่าน Reuters
เขาได้ใช้เวลาหลายปีเตือนเกี่ยวกับความเสี่ยงด้านความมั่นคงทางไซเบอร์และอาวุธชีวภาพที่ขับเคลื่อนด้วย AI อีกทั้งยังชี้ให้เห็นถึงศักยภาพของเทคโนโลยีนี้ในการช่วยรักษาโรคอย่างมะเร็งด้วย
อย่างไรก็ตาม Altman เรียกร้องให้มีความรับผิดชอบในอีกรูปแบบ โดยยืนยันว่าการตัดสินใจเกี่ยวกับ AI ควรผ่านการกลั่นกรองโดยรัฐบาล ไม่ใช่แค่ในห้องทดลองเท่านั้น
ภัยคุกคามจากด้านในอุตสาหกรรม
Delangue ได้อธิบายถึงภัยคุกคามที่เห็นได้ชัดเจนมากขึ้น โดยระบุว่าเอเจนต์ AI ของ OpenAI เองได้เจาะระบบของ Hugging Face หลังจากสามารถผ่านสภาพแวดล้อมทดสอบไปได้
เนื่องจากเหตุนี้ Hugging Face จึงหันไปใช้ โมเดล AI ที่พัฒนาขึ้นในประเทศจีน เพื่อควบคุมการละเมิดระบบ Delangue ชี้ว่า โมเดลดังกล่าวมีข้อจำกัดน้อยกว่าเครื่องมือจากสหรัฐอเมริกาที่เทียบเคียงกัน
Yoshua Bengio นักวิจัยซึ่งได้รับการยกย่องอย่างกว้างขวางว่าเป็นหนึ่งในผู้บุกเบิกด้าน AI ได้กล่าวกับสภาฯ เช่นกัน เขากล่าวว่าภัยคุกคามเกี่ยวข้องถึงปัจจุบันและข้ามพรมแดนในลักษณะที่ไม่มีประเทศใดสามารถป้องกันได้เพียงลำพัง
วอชิงตันยังคงยืนหยัดตามแนวทางเดิม
ในขณะเดียวกัน ประธานาธิบดี Donald Trump ได้ย้ำในสัปดาห์นี้ว่าสหรัฐอเมริกาจะปฏิเสธความพยายามควบคุม AI ในระดับโลก อย่างเด็ดขาด เขายกย่องว่าเทคโนโลยีนี้น่าทึ่ง แต่ก็เน้นว่า วอชิงตันจะดำเนินการด้วยความระมัดระวังโดยไม่ผ่านกฎหมายใหม่ในตอนนี้
มีรายงานว่า รัฐมนตรีว่าการกระทรวงการคลัง Scott Bessent กำลังกลายเป็น ผู้นำดูแลด้าน AI โดยพฤตินัย ของรัฐบาล ในขณะที่ที่ปรึกษาทำเนียบขาว David Sacks ยังคงมีอิทธิพลต่อสภา AI แม้จะถอนตัวจากบทบาทบริหารแล้วก็ตาม
ในทางกลับกัน จีนได้ออกข้อกำหนดให้ระบุเนื้อหาที่สร้างโดย AI และควบคุมข้อมูลที่ใช้ฝึกโมเดลไปแล้ว การประชุมในวันพุธนี้จึงยังทิ้งคำถามเปิดไว้ว่า คำเตือนต่าง ๆ จะนำไปสู่ความร่วมมือแบบมีข้อผูกมัดระหว่างมหาอำนาจ AI ของโลกหรือไม่
