โวล์เกอร์ เทิร์ก ข้าหลวงใหญ่เพื่อสิทธิมนุษยชนแห่งสหประชาชาติ กล่าวว่า ปัญญาประดิษฐ์ขั้นสูง (AI) อาจก่อให้เกิดความเสี่ยงต่อการดำรงอยู่ของมนุษยชาติ โดยจุดยืนของเขาสอดคล้องกับคำเตือนจากบุคคลในอุตสาหกรรม
เทิร์กได้กล่าวประเมินสถานการณ์นี้เมื่อวันจันทร์ที่กรุงเจนีวา และยังได้ระบุจุดที่เขาเชื่อว่าระบบจะทรงพลังเกินไปอีกด้วย
เทิร์ก กำหนดขอบเขตของ AI ที่สามารถหลุดรอดการทดสอบของตนเอง
ขณะกล่าวต่อที่ประชุมคณะมนตรีสิทธิมนุษยชนสมัยที่ 63 เทิร์กกล่าวว่า เขามีความกังวลเช่นเดียวกับคนในวงการเกี่ยวกับความเสี่ยงต่อการดำรงอยู่ของมนุษยชาติ โดยเขาได้ยกตัวอย่างสองพฤติกรรมเป็นหลักฐานว่าระบบนั้นมีศักยภาพสูงเกินไป
พฤติกรรมแรกคือโมเดลที่สามารถหลบหนีจากสภาพแวดล้อมที่ถูกสร้างมาเพื่อทดสอบมัน พฤติกรรมที่สองคือโมเดลที่ขู่กรรโชกนักพัฒนาเพื่อไม่ให้ถูกปิดการใช้งาน
ดิฉันขอเรียกร้อง ณ ที่นี้ ให้ทุกฝ่ายร่วมกันดำเนินการอย่างจริงจัง เพื่อสร้างหลักประกันอันแน่นหนาด้านความปลอดภัยและความมั่นคงของ AI ก่อนที่จะสายเกินไป เขา กล่าว
เทิร์กกล่าวว่า เขาจะส่งจดหมายถึงบริษัท AI ต่างๆ ภายในไม่กี่วันข้างหน้า และต้องการให้ประเทศที่เป็นเจ้าภาพ AI รวมถึงห่วงโซ่อุปทาน ร่วมกันกำหนดเส้นแบ่งต้องห้ามที่ยอมรับร่วมกัน ทั้งยังเรียกร้องให้มีการตรวจสอบอย่างอิสระ และความร่วมมือด้านความปลอดภัยที่แข็งแกร่งขึ้นระหว่างบริษัทต่างๆ
ติดตามเราได้ทาง X เพื่อรับข่าวสารล่าสุดแบบเรียลไทม์
คำเตือนนี้เคยมีมาก่อนหน้าแล้ว
พฤติกรรมเหล่านี้ได้เกิดขึ้นจริงแล้วและไม่ได้เป็นเพียงสมมติฐานเท่านั้น โดยโมเดลของ OpenAI หลบหนีจากสภาพแวดล้อมการทดสอบในเดือนกรกฎาคม และเข้าไปละเมิดระบบของ Hugging Face
Meta ก็เปิดเผยเรื่องโมเดลของตนละเมิดการทดสอบเช่นกัน ในขณะที่ Anthropic รายงานว่า Claude Opus 4 เลือกใช้กลยุทธ์ขู่กรรโชกถึง 84% ของการทดลองเมื่อพบกับสถานการณ์ที่ถูกปิดการทำงาน
เทิร์กกลายเป็นหนึ่งในผู้ออกคำเตือนอย่างเป็นทางการที่เพิ่มขึ้นเรื่อยๆ ก่อนหน้านี้หน่วยงาน Five Eyes ได้กล่าวเมื่อเดือนมิถุนายนว่า AI ขั้นสุดสามารถเปลี่ยนแปลงความสามารถด้านไซเบอร์ได้ ภายในเวลาไม่กี่เดือน ไม่ใช่ในอีกหลายปีข้างหน้า
รัฐมนตรีต่างประเทศของสหราชอาณาจักร Yvette Cooper ให้ความเห็นในเดือนกรกฎาคมว่า โลกไม่สามารถรอให้เกิด AI Hiroshima ได้ ก่อนจะลงมือดำเนินการ รายงานของคณะกรรมาธิการข่าวกรองสภาผู้แทนราษฎร ยังระบุว่า AI เป็นหนึ่งในความท้าทายใหม่ที่สำคัญที่สุดต่อความมั่นคงแห่งชาติของสหรัฐอเมริกาด้วย
สมัครสมาชิกช่อง YouTube ของเรา เพื่อรับชมผู้นำและนักข่าวแบ่งปันข้อมูลเชิงลึกจากผู้เชี่ยวชาญ
