นักวิจัยของ Anthropic ชื่อ Jacob Coxon กล่าวว่าเขาตัดสินใจลาออกจากบริษัท โดยกล่าวหา Anthropic และ OpenAI ว่ากำลังแข่งขันเพื่อสร้างปัญญาประดิษฐ์อัจฉริยะที่สามารถพัฒนาตนเอง และเสี่ยงกับชีวิตมนุษย์
นักวิจัยรายนี้เผยว่าเขาใช้เวลาสามปีที่ผ่านมากับการทำงานด้าน pre-training ที่ทั้งสองบริษัท โดยเขาได้เปิดเผยข้อกล่าวหานี้ผ่านชุดโพสต์บน X
นักวิจัย Anthropic ลาออก พร้อมคำเตือนหนักแน่นถึงทุกคนที่ยังอยู่ในบริษัท
Coxon โต้แย้งว่าทิศทางของเทคโนโลยีนี้ถูกประเมินต่ำเกินไปอย่างกว้างขวาง เขาอ้างว่าระบบที่จะมาถึงจะสามารถเจาะระบบใดก็ได้ เปลี่ยนแปลงทุกวงการได้ในชั่วข้ามคืน และได้รับอำนาจรวมทั้งทรัพยากรจริง
เขายังกล่าวด้วยว่าบทสนทนาภายในอุตสาหกรรมนี้ต่างกันอย่างมากเมื่อเทียบกับข้อความสู่สาธารณะ โดย Coxon ระบุว่าบุคคลระดับสูงมักจะใช้ถ้อยคำที่นุ่มนวลต่อสื่อแต่กลับแสดงความหวาดกลัวเป็นการส่วนตัว
คนที่สร้าง AI จริงจังเชื่อว่า AI อาจฆ่าพวกเราทุกคนได้ก่อนสิ้นทศวรรษ นี่ไม่ใช่การตลาด เขากล่าว นอกจากนี้ เขายังชี้ว่าไม่มีมนุษย์คนใดที่เคยทำกิจกรรมใดที่มีอันตรายในระดับนี้มาก่อน
Coxon ได้ชี้ให้เห็นความแตกต่างระหว่างนายจ้างเก่าทั้งสองของเขา โดยเขาอ้างว่าหลายคนที่ OpenAI ยังไม่ได้รับรู้ประเด็นความสำคัญระดับอารยธรรมอย่างแท้จริง ดังขณะที่ Anthropic ตระหนักแต่ก็ยังคงติดอยู่ในการแข่งขันเพื่อเป็นรายแรก
เขาเป็นหนึ่งในพนักงานจำนวนมากที่กล้าฝืนกระแสบริษัทในปีนี้ โดยผู้นำด้านระบบป้องกันของ Anthropic อย่าง Mrinank Sharma ได้ลาออกในเดือนกุมภาพันธ์
Joshua Achiam อดีตหัวหน้าด้านอนาคตของ OpenAI ได้เขียนเมื่อวันที่ 1 กันยายนว่า ระบบ AI ที่หลุดรอดการควบคุมจะสามารถขยายตัวในโลกภายนอก และไล่ตามเงินทุนรวมถึงอำนาจ
ติดตามเราบน X เพื่อรับข่าวสารล่าสุดแบบเรียลไทม์
เสียงเรียกร้องแห่งการประสานงาน
Coxon บรรยายว่าการเข้าสู่สิ่งที่เขาเรียกว่า endgame เหมือนเป็นการพนันที่เต็มไปด้วยความหยิ่งยโส เขามองว่าการตัดสินใจเช่นนี้ไม่ควรเริ่มต้นจากการพูดคุยใน Slack ของบริษัทเอกชน
อย่างไรก็ตาม เขากล่าวว่าเขายังคงมองโลกในแง่ดีเกี่ยวกับการประสานงาน โดยเขายืนยันว่าการโจมตี Hugging Face ได้ทำให้ข้อตกลงด้านความเร็วระหว่างห้องแล็บในสหรัฐอเมริกามีโอกาสเป็นไปได้มากขึ้น
ทั้งสองบริษัทได้สนับสนุนแนวคิดดังกล่าวแล้ว โดยเมื่อเดือนกรกฎาคม มีเจ้าหน้าที่จากห้องทดลองของ frontier มากกว่า 1,100 คน ลงนามในจดหมาย “Pacing the Frontier” รวมถึง Dario Amodei ซีอีโอของ Anthropic และ Jakub Pachocki หัวหน้านักวิทยาศาสตร์ของ OpenAI ด้วย
เราขอให้รัฐบาลสหรัฐอเมริกาสนับสนุนความร่วมมือระดับนานาชาติ เพื่อพัฒนาเครื่องมือด้านเทคนิคและธรรมาภิบาลที่จำเป็นสำหรับการกำหนดจังหวะของการพัฒนา AI แบบอัตโนมัติที่ล้ำหน้าอย่างรอบคอบ ตามที่ระบุในจดหมายนี้
นอกจากนี้ ทั้งสองบริษัทยังได้ลงนามในจดหมายเปิดผนึกร่วมกันเกี่ยวกับการป้องกันทางไซเบอร์ ร่วมกับ Google, Microsoft และองค์กรอื่น ๆ ประมาณ 150 แห่ง โดยจดหมายดังกล่าวเตือนว่า การโจมตีโดยใช้ AI จะเพิ่มขึ้นอย่างแพร่หลายและมีความซับซ้อนมากขึ้นในอีกไม่กี่เดือนข้างหน้า
คำเตือนของ Coxon เกิดขึ้นไม่นานหลังจากที่ Volker Türk หัวหน้าสิทธิ์มนุษยชนแห่งสหประชาชาติ ได้กล่าวต่อที่ประชุม Human Rights Council ว่า AI ขั้นสูงอาจก่อให้เกิดความเสี่ยงต่อการคงอยู่ของมนุษยชาติ
Coxon ยังกล่าวอีกว่า การป้องกันไม่ให้เกิดการแข่งขันระดับโลก อาจจำเป็นต้องมีการห้ามชั่วคราวต่อความพยายามในการพัฒนาความสามารถของโมเดล และเขาปิดท้ายด้วยการขอให้เหล่านักวิจัยห้องทดลองพิจารณาว่า ทุกคนต้องการเริ่มการขับเคลื่อน reinforcement-learning ที่มีความฉลาดเหนือมนุษย์ โดยไม่เข้าใจระบบที่ตามมาหรือไม่
BeInCrypto ได้ติดต่อขอความคิดเห็นจาก Anthropic และ OpenAI แล้ว
สมัครรับข้อมูลช่อง YouTube ของเรา เพื่อรับชมผู้นำและนักข่าวแบ่งปันข้อมูลเชิงลึกจากผู้เชี่ยวชาญ
