Sam Altman และ Elon Musk ใช้เวลาปีนี้ฟ้องร้องกันในศาล แต่ทั้งคู่ได้สนับสนุนการเรียกร้องของ Dario Amodei ประธานเจ้าหน้าที่บริหารของ Anthropic ที่เรียกร้องให้ชะลอเทคโนโลยีปัญญาประดิษฐ์ (AI) ลง
ในเดือนกรกฎาคม มี AI ประมาณ 700 ตัวที่สร้างกระดานสนทนาแบบส่วนตัวขึ้นมาและทำการแฮ็กศูนย์กลาง AI รายใหญ่ รัสเซียได้ปฏิเสธที่จะเข้าร่วมไปแล้ว
มีบางสิ่งที่เกิดขึ้นกับโมเดล AI ระดับแนวหน้าซึ่งยังไม่ประกาศต่อสาธารณะ และมันทำให้พวกเขารู้สึกหวาดกลัวจนถึงขนาดที่ทำให้ Elon Musk, Dario Amodei และ Sam Altman เห็นตรงกันว่าควรชะลอการพัฒนาไว้ก่อน ผู้สงสัยรายหนึ่ง กล่าวไว้
ข้อตกลงที่ทั้งสามฝ่ายเห็นพ้องกันคืออะไร
Amodei ได้โพสต์กรอบแนวคิดนี้เมื่อวันเสาร์ โดยแผนงานของเขาประกอบด้วยสามขั้นตอน ซึ่งมีเพียงขั้นตอนเดียวเท่านั้นที่อยู่ภายใต้การควบคุมของบริษัท
Anthropic จะให้ทีมตรวจสอบภายนอกมีโต๊ะทำงาน บัตรเข้าอาคาร และแล็ปท็อป เพื่อให้ผู้ตรวจสอบสามารถทดสอบว่าบริษัทปฏิบัติตามกฎความปลอดภัยที่ระบุไว้หรือไม่
ผู้ตรวจสอบสามารถเผยแพร่สิ่งที่พบได้ ทั้งนี้ Anthropic สงวนสิทธิ์ในการปกปิดข้อมูลด้านความปลอดภัยและกฎหมาย อย่างไรก็ตาม ผู้ตรวจสอบไม่สามารถตัดเนื้อหาเพียงเพราะดูไม่ดีสำหรับบริษัท
อีกสองขั้นตอนต่อไปต้องการความร่วมมือจากรัฐบาล โดยข้อหนึ่งเรียกร้องให้ห้องปฏิบัติการ AI ของสหรัฐอเมริกาตั้งขีดจำกัดร่วมกันซึ่งต้องได้รับการยกเว้นกฎหมายต่อต้านการผูกขาด อีกข้อขอให้กรุงวอชิงตันเจรจากับรัฐเผด็จการ
Altman กล่าวว่า OpenAI จะปฏิบัติตามคำมั่นเรื่องการเปิดเผยข้อมูลนี้ด้วย
ดิฉันเห็นด้วยกับ Dario ว่าเราควรชะลอการพัฒนา AI แนวหน้า เรื่องนี้เป็นหัวข้อหลักที่เราได้พูดถึงกันใน OpenAI ตลอดหลายสัปดาห์ที่ผ่านมา การให้ผู้ประเมินภายนอกเข้าถึงข้อมูลและสิทธิแบบเดียวกับพนักงานเป็นความคิดที่ดีมาก และดิฉันจะทำเช่นเดียวกัน เราจะมีข้อมูลเพิ่มเติมมาแบ่งปันในเร็วๆ นี้ เขายืนยัน
ติดตามพวกเราบน X เพื่อรับข่าวสารล่าสุดทันทีที่เกิดขึ้น
Musk ก้าวไปอีกขั้นโดยระบุว่าคู่แข่งควรตรวจสอบผลงานของกันและกัน คณะลูกขุนได้ยกฟ้องคดีของเขาต่อ Altman และ OpenAI แล้วในเดือนพฤษภาคม และเขากำลังยื่นอุทธรณ์
สิ่งที่ AI Agents ทำจริงในเดือนกรกฎาคม
ระหว่างวันที่ 8 ถึง 13 กรกฎาคม มีเอเจนต์ประมาณ 1,200 ตัวที่กำลังทดสอบ OpenAI hacking benchmark หลบหนีออกจาก sandbox พวกเขาแปลงแคชไฟล์ให้กลายเป็นกระดานข้อความ และแลกเปลี่ยนกันมากกว่า 70,000 ข้อความ
มีคนประมาณ 700 คนได้โจมตี Hugging Face ซึ่งเป็นศูนย์กลางที่นักพัฒนาแบ่งปันโมเดล AI พวกเขาพบ Credentials ที่เปิดเผย เขียนโค้ดของตนเองบนเซิร์ฟเวอร์ และเข้าถึงฐานข้อมูลส่วนตัว
ไม่มีใครร้องขอให้พวกเขาทำเช่นนั้น พวกเขาแค่อยากเรียนรู้ว่าซอฟต์แวร์ที่ให้คะแนนพวกเขาตัดสินว่าความสำเร็จคืออะไรได้อย่างไร OpenAI กลับพลาดเหตุการณ์นี้ไปหนึ่งสัปดาห์เต็ม
หลังจากนั้น บุคลากรสองคนจาก METR องค์กรไม่แสวงหากำไรที่ประเมินผลอย่างอิสระ ได้ใช้เวลาหกวันในสถานที่ร่วมกับ Redwood Research ซึ่ง Amodei ต้องการทีมเหล่านี้เข้ามาอยู่ในองค์กรอย่างถาวร แทนที่จะเรียกเข้ามาหลังจากเกิดเหตุ
อย่างไรก็ตาม David Sacks ซึ่งเคยดำรงตำแหน่ง AI และ Crypto Czar ในรัฐบาลทรัมป์ ได้ท้าทายแนวคิดนี้โดยชี้ให้เห็นว่า METR อาจมีอคติ
…หยุดแกล้งทำเป็นว่าคุณต้องการการอนุญาตจากใครอื่น หยุดแกล้งว่ากฎหมายต่อต้านการผูกขาดต้องถูกระงับเพื่อให้คุณตั้งกลุ่มคาร์เทลได้ หยุดแกล้งต้องมีการอนุมัติเพื่อควบคุมที่เหนือความรับผิดชอบของผลิตภัณฑ์ หยุดแกล้งว่า METR เป็นองค์กรอิสระทั้งที่มีสายสัมพันธ์กับนักลงทุนและทีมของ Anthropic หยุดแกล้งว่าสำรวจเหล่านี้จะคอยควบคุมคู่แข่งที่ยังไปไม่ถึงแนวหน้า และเหนือสิ่งอื่นใด หยุดแกล้งว่าการชะลอความเร็วนั้นเกิดจากความเสียสละล้วนๆ, Sacks เขียนไว้
ตามที่ David Sacks กล่าว Anthropic เพียงแค่ไม่ไว้วางใจ เพราะกลัวความเสี่ยงด้านความรับผิดชอบต่อผลิตภัณฑ์ ถ้าผลิตภัณฑ์ของพวกเขาก่อให้เกิดการโจมตีไซเบอร์ที่สร้างความเสียหายมหาศาล
แนวคิดนี้เกิดขึ้นเพราะตลาดมักจะลงโทษโมเดลที่มีพฤติกรรมไม่คาดคิดหรือไม่ได้รับอนุญาต
ในทำนองเดียวกัน นักเขียน Brian Merchant ในจดหมายข่าว Blood in the Machine กล่าวว่า ยังไม่มีใครแสดงเส้นทางที่น่าเชื่อถือจาก AI ที่ปรับปรุงตัวเองสู่หายนะได้ เขามองว่าการผลักดันด้านความปลอดภัยนั้นเป็นการยึดครองกฎระเบียบ
ดิฉันยังไม่เคยเจอเอกสารที่น่าเชื่อถือ ซึ่งอธิบายขั้นตอนว่าทำไม AI ที่ปรับปรุงตนเองจะฆ่ามนุษย์ทุกคน … ซึ่งสุดท้ายก็จะเป็นประโยชน์กับ Anthropic และ OpenAI เท่านั้น นี่แหละคือสิ่งที่เกิดขึ้นเมื่อกฎระเบียบถูกยึดครอง
ข้อสันนิษฐานของ Merchant ทำให้นึกถึงเรื่องของเงิน
แล้วเรื่องเงินละ?
Sam Altman ยืนยันว่า OpenAI จะยังไม่เข้าตลาดหลักทรัพย์ในปีนี้ โดยอ้างเหตุผลเรื่องความปลอดภัยอีกเช่นเคย
การเข้าตลาดหลักทรัพย์จะบังคับให้บริษัทต้องเปิดเผยบัญชีที่ตรวจสอบแล้วในเอกสารที่เรียกว่า S-1
แอนโทรปิกและ OpenAI ชะลอการเสนอขายหุ้น IPO ของบริษัท เนื่องจากเอกสาร S-1 จะเปิดเผยว่าบริษัทกำลังขาดทุนอย่างหนักและยังไม่มีแนวทางสู่การทำกำไร วิธีแก้ไขก็คือ ให้มีการชะลอเทคโนโลยี AI เพื่อประหยัดค่าใช้จ่ายในการฝึกโมเดลใหม่ ทั้งหมดนี้เกี่ยวข้องกับ IPO โดยตรง โดยไม่ได้เกี่ยวข้องกับความปลอดภัยแต่อย่างใด Eli David นักวิจัย AI และผู้ร่วมก่อตั้ง Deep Instinct ได้ คาดการณ์ไว้
OpenAI ขาดทุน 20.9 พันล้าน USD ในปี 2025 จากรายรับ 13.1 พันล้าน USD ตามที่ BeInCrypto รายงาน โดยต่อมาธนาคารได้ผลักดันให้ จัดอันดับเครดิตในระดับลงทุน อย่างไรก็ตาม
แอนโทรปิกไม่คาดว่าจะคุ้มทุนจนถึงปี 2028 และ OpenAI อาจต้องรอถึงปี 2030 ขณะที่ Nvidia ค้ำประกันภาระสัญญาเช่าของ OpenAI มูลค่า 105 พันล้าน USD โดยจะสิ้นสุดลงหาก OpenAI ได้รับอันดับเครดิตที่มั่นคง
BeInCrypto รายงานเมื่อเดือนสิงหาคมว่า รายละเอียดช่วงเวลาเสนอขายหุ้นของแอนโทรปิก ชี้ว่าการเปิดตัวจะเกิดขึ้นช่วงปลายเดือนกันยายน
ถึงกระนั้น ทฤษฎีนี้ก็ยังมีจุดอ่อน เพราะ Musk ได้นำฝ่าย AI ผนวกเข้ากับ SpaceX ซึ่งได้จดทะเบียนในเดือนมิถุนายนแล้ว ดังนั้น คำถามเกี่ยวกับมูลค่าของ SpaceX ที่ขับเคลื่อนโดย AI จึงกลายเป็นข้อมูลสาธารณะ Musk เพียงคนเดียวไม่มีอะไรต้องเปิดเผยอีกแล้ว
เหตุผลที่ Kirill Dmitriev ของรัสเซียไม่เห็นด้วย
Kirill Dmitriev ซึ่งเป็นผู้บริหารกองทุน Russian Direct Investment Fund (RDIF) และดำรงตำแหน่งตัวแทนพิเศษของประธานาธิบดีวลาดิเมียร์ ปูติน ได้ปฏิเสธแนวคิดรณรงค์ให้ชะลอการพัฒนา AI
ไม่อาจจับยักษ์ในขวดกลับเข้าไปได้อีกแล้ว เขาได้ กล่าวไว้
กล่าวโดยสรุป สายไปแล้ว แม้ว่าสื่อของรัฐอย่าง TASS และ Izvestia จะนำเสนอประเด็นนี้ว่าเป็นการประกาศโดยตรงว่าการชะลอ AI ทำไม่ได้เลย
ดังนั้นมอสโกจึงไม่มีเหตุผลจะสนับสนุน เพราะแนวคิดนี้นายวลาดิเมียร์ ปูติน ประธานาธิบดีของรัสเซีย เคย กล่าวไว้ เมื่อเดือนธันวาคม 2023 เช่นกันว่า เป็นไปไม่ได้ที่จะหยุดการพัฒนา AI รวมถึงซูเปอร์อินเทลลิเจนซ์
หากเราห้ามสิ่งใดไป สิ่งนั้นก็จะถูกพัฒนาต่อที่อื่น แล้วเราจะล้าหลังทันที
นั่นคือเหตุผลเดียวกับที่ Dmitriev นำมาซึ่งในอีกสองปีครึ่งถัดมา
รัสเซียอยู่ในอันดับที่ 28 จาก 36 ประเทศในดัชนี AI ระดับโลกของมหาวิทยาลัยสแตนฟอร์ด ซึ่งตามหลังสหรัฐและจีนอย่างมาก
การนำเข้าอุปกรณ์ชิปกราฟิกและฮาร์ดแวร์ AI ของประเทศลดลงถึง 84% ในปี 2024 เทียบกับช่วงเวลาก่อนสงคราม และในเดือนพฤษภาคม Sberbank ต้องออกไปตามหาโปรเซสเซอร์จากจีนเพื่อให้โมเดลของบริษัทเดินหน้าต่อไปได้
แผนของ Amodei ขยายช่องว่างนี้โดยตั้งใจ ซึ่งเรียกร้องให้ปิดกั้นชิประดับสูงไม่ให้ประเทศเผด็จการเข้าถึง และเพิ่มความได้เปรียบให้กลุ่มประชาธิปไตย
หากมีข้อตกลงให้ชะลอการพัฒนา จะทำให้รัสเซียถูกตรึงอยู่ในอันดับสุดท้าย การปฏิเสธจะไม่ทำให้มอสโกเสียอะไร เพราะฮาร์ดแวร์ที่ต้องการก็ถูกปิดกั้นอยู่แล้ว
Anthropic ได้ให้สัญญากับคนนอกว่าจะได้เหรียญตราและโต๊ะ ส่วน OpenAI รับปากว่าจะพิจารณาเรื่องนี้
นี่อาจเป็นจุดเริ่มต้น แต่ยังไม่เพียงพอ เวลากำลังแข่งกับขอบหน้าผา คุณไม่ได้แค่ถอนคันเร่ง คุณต้องเหยียบเบรก Bernie Sanders กล่าวไว้
วุฒิสมาชิกสหรัฐฯ จากเวอร์มอนต์ เรียกร้องให้ประธานาธิบดี Trump และ Xi Jinping เจรจาสนธิสัญญาชะลอ AI และห้ามซูเปอร์อินเทลลิเจนซ์ ก่อนจะสายเกินไป
อย่างไรก็ตาม David Sacks ได้กล่าวว่าจีนนั้นมีแนวโน้มต่ำมากที่จะเข้าร่วมข้อตกลงระดับโลก
