สมาชิกฝ่ายเทคนิคในทีม Safety Oversight ของ OpenAI ประเมินโอกาสที่มนุษย์จะสูญพันธุ์ถึง 70% ภายในสามปี หากห้องปฏิบัติการ AI ไม่ชะลอการพัฒนาหรือหากหน่วยงานกำกับดูแลไม่เข้ามาแทรกแซง
Marcus Williams ซึ่งเข้าร่วมบริษัทในเดือนพฤษภาคม 2025 ได้โพสต์ข้อความเตือนนี้บน X โดยเขาโพสต์คำเตือนก่อน และระบุเปอร์เซ็นต์แนบให้เมื่อมีผู้ใช้รายอื่นสอบถาม
ข้อสรุปตัวเลขโอกาสมนุษย์สูญพันธุ์มาอย่างไร
Williams เขียนว่าหากไม่มีการกำกับดูแล AI หรือไม่มีการชะลอการพัฒนาระหว่างห้องปฏิบัติการ มนุษย์อาจสูญพันธุ์ในอีกไม่กี่ปีข้างหน้าได้อย่างมาก
จากนั้นผู้ใช้รายหนึ่งยกระดับเป็นการเดิมพัน โดยเสนอหุ้น Microsoft มูลค่า 10,000 USD แลกกับหุ้น OpenAI ในช่วงห้าปี Williams ตอบกลับด้วยการระบุเป็นเปอร์เซ็นต์
70% ในช่วง 3 ปีข้างหน้าหากไม่มีการกำกับดูแลหรือชะลอการพัฒนา แต่ดิฉันคิดว่าการกำกับดูแลหรือชะลอการพัฒนาเป็นไปได้มาก
อย่างไรก็ตาม ข้อแม้มีความสำคัญพอๆ กับตัวเลข Williams มองว่าการกำกับดูแลหรือการชะลอยังเป็นไปได้มาก ดังนั้นเขาจึงยังไม่ปักใจว่าสถานการณ์จะจบลงแน่นอน
สหรัฐอเมริกาเริ่มขยับรับมือความเสี่ยงจาก AI แล้ว
โพสต์นี้ปรากฏขึ้นในสัปดาห์ที่ประเด็นความปลอดภัยในห้องปฏิบัติการกลายเป็นประเด็นการเมืองกระแสหลัก เมื่อวันที่ 9 กันยายน นักวิจัยจาก Anthropic ได้ลาออก พร้อมทั้งกล่าวหา Anthropic และ OpenAI ว่าเล่นการพนันกับชีวิตมนุษย์
ฝ่ายนิติบัญญัติของสหรัฐอเมริกาตอบสนองภายในวันเดียว โดยมี ความพยายามใหม่ให้หยุดการพัฒนา AI รวมถึงร่างกฎหมายวุฒิสภาที่เสนอให้แบน superintelligence โดยตรง
เสียงเตือนจากภายนอกห้องปฏิบัติการก็ดังขึ้นเช่นกัน โดย หัวหน้าสิทธิมนุษยชนแห่งสหประชาชาติ กล่าวว่าปัญญาประดิษฐ์ขั้นสูงถือเป็นความเสี่ยงต่อการมีอยู่ของมนุษย์ในการประชุมที่นครเจนีวาเมื่อต้นสัปดาห์นี้
แต่ถึงอย่างไร Williams ยังคงอยู่ในกลุ่มที่มีมุมมองสุดโต่งที่สุด Evan Hubinger หัวหน้าด้านวิทยาศาสตร์การจัดตำแหน่งของ Anthropic ประเมินโอกาสเกิน 10% ในทศวรรษนี้ ด้าน Geoffrey Hinton เจ้าของรางวัลโนเบล ระบุช่วง 10% ถึง 20%
ขณะเดียวกัน กลุ่มนักเทรดคริปโตก็เริ่มติดตามคำเตือนเหล่านี้ทันที Polymarket ได้แชร์โพสต์ของ Williams ให้ผู้ติดตามของตัวเองภายในไม่กี่ชั่วโมง และ นักวางเดิมพันของ Polymarket ยังนำผลเลือกตั้งกับเหตุการณ์เศรษฐกิจมากำหนดราคา token ด้วย
ดังนั้น บททดสอบในระยะสั้นจึงเป็นเรื่องการเมืองมากกว่าด้านเทคนิค ยังไม่มีคำตอบว่าภาครัฐจะออกนโยบายในกรอบสามปีที่ Williams กล่าวหรือไม่ และจนถึงขณะนี้ เขาก็ยังเชื่อว่ายังมีโอกาส
