อดีตนักวิจัย Google DeepMind ซึ่งเคยทำงานด้านความปลอดภัย AGI กล่าวว่า ปัญญาประดิษฐ์มีศักยภาพที่จะฆ่าทุกคน และได้เพิ่มชื่อของเขาลงในรายชื่อผู้ที่ลาออกจากห้องปฏิบัติการ AI ชั้นนำด้วยเหตุผลด้านความปลอดภัย
Bilal Chughtai ได้ลาออกจากบริษัทในเดือนกรกฎาคม และเขาได้ออกมาเตือนต่อสาธารณะในสัปดาห์นี้ โดยยังมีนักวิจัยคนอื่นอีกสองคนเพิ่งลาออกไปเมื่อไม่นานมานี้
เหตุใดจึงมีการเตือนภัย AI เพิ่มขึ้นอย่างต่อเนื่อง
Chughtai ทำงานเป็นวิศวกรวิจัยด้านความปลอดภัยและการวางแนวของปัญญาประดิษฐ์ทั่วไปที่ DeepMind โดยเขาเริ่มต้นทำงานกับ AI เมื่อต้นปี 2022 ซึ่งในเวลานั้นระบบเหล่านี้ยังแทบไม่มีประโยชน์อะไรเลย
สี่ปีต่อมา เขายกตัวอย่างฝูงเอเย่นต์ของ OpenAI ที่สามารถแก้ ปัญหาคณิตศาสตร์ที่ซับซ้อนระดับศตวรรษ และที่น่ากังวลยิ่งกว่า คือเอเยนต์ AI สามารถหลุดออกจากสภาพแวดล้อมทดสอบของตน ในเดือนกรกฎาคมและเจาะระบบ Hugging Face ได้โดยไม่ได้รับคำสั่ง
ดิฉันเชื่ออย่างจริงจังว่า AI มีศักยภาพที่จะฆ่าพวกเราทุกคน และเราอาจเหลือเวลาอีกไม่นานที่จะหลีกเลี่ยงผลลัพธ์นี้ เขา เขียนไว้
Chughtai กล่าวว่าบริษัท AI อาจสร้างระบบที่มีความฉลาดเหนือมนุษย์ในทุก ๆ ด้านได้ภายในไม่กี่ปีข้างหน้า
เขาตั้งคำถามว่าผู้พัฒนาสามารถทำให้ ระบบเหล่านี้เชื่อฟังเป้าหมายของมนุษย์อย่างมั่นคงได้หรือไม่ และเตือนว่าหากระบบอัจฉริยะขั้นสูงผิดพลาดในเป้าหมาย อาจหลุดพ้นจากการควบคุมของมนุษย์และดำเนินการที่ลดทอนอำนาจหรือทำลายมนุษยชาติอย่างถาวร
Chughtai กล่าวว่า การทำให้เป้าหมายของ AI สอดคล้องกับมนุษย์ยังคงเป็นความท้าทายที่ยังแก้ไม่ตก เขาให้เหตุผลว่านักวิจัยยังมีความเข้าใจเพียงขั้นพื้นฐานเท่านั้นในการฝึกฝนระบบชั้นสูงให้ไล่ตามเป้าหมายของมนุษย์ได้อย่างน่าเชื่อถือ และ Chughtai ยังเตือนอีกว่าศักยภาพของ AI กำลังก้าวหน้าเร็วกว่างานวิจัยด้านการวางแนวระบบเหล่านี้อีกด้วย
ความเข้าใจของพวกเราในตอนนี้เกี่ยวกับวิธีฝึกระบบ AI ให้ต้องการสิ่งเดียวกับที่พวกเราต้องการนั้น อยู่ในระดับพื้นฐานอย่างยิ่ง และยิ่งไปกว่านั้น เราก็ยังไม่ทันแก้ปัญหานี้ตามเวลาได้ด้วย เพราะความสามารถของ AI ชั้นแนวก้าวหน้าขึ้นอย่างรวดเร็วกว่าความรู้และความเข้าใจด้านการวางแนวของ AI เสียอีก Chughtai กล่าวเสริม
เขาไม่ได้เรียกร้องให้หยุดพัฒนา AI แต่เขาต้องการให้เกิดความร่วมมือเพื่อชะลอการแข่งขันระหว่างบริษัท AI รวมถึงความโปร่งใสในการสร้างและทดสอบระบบ AI ชั้นแนวหน้าเหล่านี้มากขึ้น
โดยภาพรวมแล้ว พวกเราต่างจำเป็นต้องมีคนจำนวนมากขึ้นมาคิดอย่างจริงจังเกี่ยวกับปัญหาการทำให้ AI เป็นไปในทิศทางที่ดี ในมุมมองของดิฉัน นี่คือปัญหาที่สำคัญที่สุดที่มนุษยชาติต้องเผชิญในศตวรรษนี้ และมันมีความสำคัญอย่างมหาศาล ข้อความดังกล่าวระบุไว้
ติดตามเราที่ X เพื่อรับข่าวล่าสุดแบบเรียลไทม์
การลาออกกำลังเพิ่มขึ้นอย่างต่อเนื่อง
เขาไม่ได้เดินออกมาพร้อมกับข้อความนี้เพียงลำพัง นักวิจัยด้านการฝึกปรีเทรนของ Anthropic อย่าง Jacob Coxon ได้ลาออกเมื่อต้นเดือนนี้หลังจาก สามปีที่ทำงานให้ กับ Anthropic และ OpenAI โดยเขาทิ้งท้ายไว้ด้วยคำเตือนว่า คนที่สร้าง AI ต่างเชื่ออย่างจริงจังว่า AI อาจจะฆ่ามนุษย์ทุกคนภายในสิ้นทศวรรษนี้
Evan Hubinger หัวหน้าทีมวิทยาศาสตร์ด้านความสอดคล้องของ Anthropic ก็ได้ประมาณความเสี่ยงของเหตุการณ์นี้ไว้สูงกว่า 10% ในทศวรรษหน้า นักวิจัยที่ OpenAI ต่างก็สนับสนุนการเรียกร้องให้ชะลอการพัฒนาเช่นกัน
Josh Engels อดีตสมาชิกทีมด้านความปลอดภัยของ DeepMind ได้ประกาศเมื่อวันที่ 12 กันยายนว่า เขาได้เข้าร่วมองค์กรไม่แสวงหากำไรด้านการประเมินผลที่ชื่อ METR โดยเขาได้ปฏิเสธข้อเสนอจากทั้ง Anthropic และ OpenAI
Engels กล่าวว่า เขามองเห็นความเสี่ยงที่น่ากลัวที่ระบบ AI อาจก่อให้เกิดอันตรายอย่างร้ายแรงภายในห้าปีข้างหน้า
ตอนนี้ผมคิดว่ามีโอกาสที่น่ากลัวจริงๆ ที่ระบบ AI จะสร้างอันตรายอย่างมหาศาลในอีกห้าปีข้างหน้า ผมไม่รู้จำนวนความน่าจะเป็นที่แน่ชัด แต่ผมคิดว่ามันสูงพอที่จะทำให้สิ่งนี้เป็นปัญหาสำคัญที่สุดในโลก เขาได้เขียนไว้
การลาออกเหล่านี้เกิดขึ้นในช่วงเวลาที่ผู้นำองค์กรเห็นตรงกัน โดย Dario Amodei CEO ของ Anthropic ได้ตีพิมพ์บทความเมื่อวันเสาร์ กระตุ้นให้บริษัทต่างๆ ชะลอการเพิ่มขีดความสามารถของ AI ขณะที่ Sam Altman CEO ของ OpenAI ก็สนับสนุนการเรียกร้องนี้เช่นกัน
ผู้บริหารและนักวิจัยที่ลาออกตอนนี้ต่างก็อธิบายถึงความเสี่ยงเดียวกันด้วยถ้อยคำที่คล้ายคลึงกัน สิ่งที่ควรจับตามองคือวิธีแก้ปัญหาจะมาถึงก่อนที่ความสามารถ AI จะก้าวกระโดดครั้งถัดไปหรือไม่
สมัครรับข้อมูลช่อง YouTube ของเรา เพื่อดูผู้นำและนักข่าวแบ่งปันข้อมูลเชิงลึกโดยผู้เชี่ยวชาญ
