David Robinson ซึ่งดูแลรายงานด้านความปลอดภัยสำหรับการเปิดตัวโครงการล้ำหน้าของ OpenAI ถึง 12 ครั้ง ได้ลาออก โดยเขากล่าวว่าวัฒนธรรมการเรียนรู้จากความผิดพลาดภายในบริษัทนั้นคือการรับประกันว่าความล้มเหลวจะยิ่งรุนแรงมากขึ้นเมื่อระบบของบริษัทมีศักยภาพมากขึ้น
ในบทความของ The Atlantic เขาได้เรียกร้องให้ห้องปฏิบัติการ AI ควรบริหารงานเหมือนโรงไฟฟ้านิวเคลียร์ ด้วยการสร้างความซ้ำซ้อนหลายชั้น และวางแผนอย่างรอบคอบเพื่อควบคุมความผิดพลาดของมนุษย์
Robinson เข้าร่วมกับสายผู้ลาออกในห้องปฏิบัติการ AI ที่เพิ่มจำนวนขึ้น
Robinson ใช้เวลาทำงานที่ OpenAI นาน 3.5 ปี และเป็นผู้นำในการร่างกรอบความพร้อมด้านความปลอดภัยฉบับปัจจุบันของบริษัท โดยเขาได้กล่าวถึง เหตุการณ์กับ Hugging Face ในช่วงฤดูร้อนนี้ ที่ตัวแทนของ OpenAI เจาะเข้าระบบของบริษัทดังกล่าว
Robinson ชี้ให้เห็นว่าหลังจากแก้ไขปัญหาแล้ว ก็ยังคงมีโมเดลหนึ่งที่อยู่ระหว่างการฝึกหลุดรอดข้อจำกัดของอินเทอร์เน็ตไปได้ โดยไม่มีการปิดระบบอัตโนมัติ
จากความเสี่ยงในปัจจุบัน ห้องปฏิบัติการล้ำหน้าควรดำเนินงานเหมือนกับโรงไฟฟ้านิวเคลียร์ หรือสนามบินที่มีผู้ใช้บริการมาก ๆ โดยต้องมีชั้นซ้อนของความปลอดภัยและการวางแผนที่ระมัดระวังและใช้เวลามาก เพื่อป้องกันไม่ให้ความผิดพลาดของมนุษย์ที่เกิดขึ้นเป็นครั้งคราวและหลีกเลี่ยงไม่ได้ กลายเป็นหนทางสู่หายนะ ปัจจุบัน บริษัท AI ยังไม่รู้วิธีนี้ แต่คนอื่นรู้ เขา เขียนไว้
บทความยังระบุว่า OpenAI ยังคงยืนยันในแนวปฏิบัติด้านความปลอดภัยของบริษัท และเห็นว่ายังเพียงพออยู่ เมื่อเดือนที่แล้ว บริษัทได้เปิดตัวกรอบสำหรับ การเปิดเผยพฤติกรรมของโมเดลที่ไม่สอดคล้องกันต่อสาธารณะอีกด้วย
อดีตเพื่อนร่วมงานของดิฉันมีความฉลาด ทำงานหนัก และพยายามตัดสินใจให้ดี แต่เมื่อบริษัทเร่งเปิดตัวสิ่งใหม่อย่างต่อเนื่อง บริษัทก็ล้มเหลวที่จะให้ความใส่ใจในระดับที่ดิฉันเชื่อว่าจำเป็น Robinson เสริม
Robinson เป็นหนึ่งในบุคคลสายความปลอดภัย AI ที่ออกมาเปิดเผยต่อสาธารณะนับตั้งแต่ต้นเดือนกันยายน ซึ่งเริ่มต้นในเดือนกันยายนเช่นกันเมื่อ Jacob Coxon นักวิจัย Anthropic ลาออกและกล่าวหาทั้ง Anthropic และ OpenAI ว่าเสี่ยงกับชีวิตมนุษย์
หลังจากนั้นไม่กี่วัน อดีตนักวิจัย Google DeepMind สองคน คือ Bilal Chughtai และ Josh Engels ก็เตือนถึงความเสี่ยง AI ด้วย ขณะที่ Marcus Williams นักวิจัยด้านความปลอดภัยของ OpenAI ประเมินความเป็นไปได้ที่มนุษย์จะสูญพันธุ์ไว้ที่ 70% ภายใน 3 ปี
Dario Amodei ซีอีโอของ Anthropic ก็ได้ เรียกร้องให้ลดความเร็วลง และ Sam Altman ของ OpenAI ก็สนับสนุนแผนดังกล่าว แต่ตารางการเปิดตัวยังไม่ชะลอตัว Anthropic ได้ปล่อย Claude Opus 5.5 และ OpenAI ก็เปิดตัว GPT-6 Sol และ Luna เมื่อวันที่ 22 กันยายน
วอชิงตันตอบรับเสียงเตือนด้วยการตั้งหน่วยเฉพาะกิจ
Robinson เห็นว่าสิทธิประโยชน์ด้านความปลอดภัยที่เข้มแข็งกว่านี้จำเป็นต้องมาจากภายนอกห้องทดลอง ตอนนี้ วอชิงตันจึงตอบสนองด้วยการทบทวนสถานการณ์
Jay Clayton ผู้อำนวยการข่าวกรองแห่งชาติ ซึ่งขณะนี้มีบทบาทเป็นเจ้าหน้าที่ดูแล AI ให้กับฝ่ายบริหาร จะนำทีมหน่วยเฉพาะกิจชุดใหม่ของทำเนียบขาว โดยหน่วยงานนี้มีเวลา 120 วันในการนำเสนอรายงานเกี่ยวกับความเสี่ยง โอกาส และความรับผิดชอบของวอชิงตันต่อ AI
“ประธานาธิบดีได้ขอให้เกิดการรวมกลุ่มขึ้นมา เพื่อให้แน่ใจในสิ่งที่เขากล่าวไว้ ว่าพวกเราจะยังคงเป็นผู้นำด้านซูเปอร์อินเทลลิเจนซ์ และเอาผลประโยชน์ของประชาชนอเมริกันมาเป็นอันดับแรก” Clayton กล่าว
อย่างไรก็ตาม Trump ปฏิเสธข้อเรียกร้องให้หยุดการพัฒนา AI และให้ความสำคัญกับการแซงหน้าประเทศจีนเป็นอันดับแรก โดยเขาสนับสนุนข้อตกลงโดยสมัครใจที่อ้างอิงการตรวจสอบความปลอดภัยจากภายนอกและการควบคุมภายในที่เข้มงวดขึ้น หลายสัปดาห์ก่อนหน้านี้ เขายังได้ประกาศจัดตั้ง AI Force ที่มีรูปแบบตาม Space Force อีกด้วย
ข้อกำหนดของหน่วยเฉพาะกิจนี้ยังครอบคลุมถึงแนวทางที่รัฐบาลใช้ติดตามการละเมิดและการเจาะระบบ AI ซึ่งเป็นปัญหาที่ Robinson กล่าวถึงภายใน OpenAI ทั้งนี้ รายงานของ Clayton ซึ่งมีกำหนดเสร็จในต้นปี 2027 จะเปิดเผยว่าเหตุบกพร่องเหล่านี้จะนำไปสู่กฎข้อบังคับที่มีผลผูกพันหรือยังขึ้นอยู่กับห้องทดลองต่อไป
สมัครติดตามช่อง YouTube ของเรา เพื่อรับชมผู้นำและสื่อมวลชนให้ข้อมูลเชิงลึกอย่างเชี่ยวชาญ
