Dario Amodei ซีอีโอของ Anthropic เรียกร้องให้มีการทดสอบโมเดล AI แนวหน้าจากบุคคลที่สามแบบบังคับในวันพุธ และเขายังต้องการให้รัฐบาลมีอำนาจสั่งระงับระบบใดที่ไม่ผ่านการตรวจสอบความปลอดภัยอีกด้วย
บทความ Policy on the AI Exponential เผยแพร่เพียงหนึ่งวันหลังจาก Anthropic เปิดตัว Claude Fable 5 โดยบริษัทได้นำเสนอบทความนี้ควบคู่กับข้อเสนอกฎหมายเรื่องการทดสอบโมเดลและกรอบการรองรับการย้ายงาน
Dario Amodei เดินหน้าเปลี่ยนจากความโปร่งใสสู่กฎเกณฑ์ที่ผูกมัด
Anthropic ใช้ปี 2025 ในการสนับสนุนกฎหมายที่เน้นเปิดเผยข้อมูล บริษัทสนับสนุน SB 53 ในรัฐแคลิฟอร์เนีย, RAISE Act ที่นิวยอร์ก และ SB 315 ของรัฐอิลลินอยส์ อย่างไรก็ตาม Amodei ประกาศว่าความโปร่งใสเพียงอย่างเดียวไม่สอดคล้องกับความเสี่ยงอีกต่อไป
เขาเสนอให้ใช้แนวทางเลียนแบบ Federal Aviation Administration (FAA) โดยโมเดลที่เกินเกณฑ์การใช้ compute จะต้องถูกตรวจสอบจากบุคคลที่สามใน 4 ด้านแบบบังคับ
ซึ่งครอบคลุมความมั่นคงทางไซเบอร์ อาวุธชีวภาพ การสูญเสียการควบคุม และงานวิจัย AI แบบอัตโนมัติ
โมเดล AI แนวหน้า เช่นเดียวกับเครื่องบิน ควรต้องมีการทดสอบทางเทคนิคและรับการตรวจสอบ หากไม่ผ่านมาตรฐานความปลอดภัยในระดับสูง การเปิดตัวควรถูกระงับหรือย้อนกลับเพื่อปกป้องความปลอดภัยสาธารณะ Amodei เขียนไว้ในบทความนี้
ติดตามเราได้บน X เพื่ออัปเดตข่าวแบบเรียลไทม์
แผนงานนี้ก้าวไกลกว่าคำสั่งบริหาร Executive Order ด้าน AI ของทำเนียบขาวเมื่อเดือนมิถุนายน ซึ่ง Amodei ยอมรับว่าเป็นความก้าวหน้าแบบค่อยเป็นค่อยไป
เขายังต้องการให้มีการรายงานเหตุการณ์ด้านความปลอดภัยโดยทันทีและการปกป้องน้ำหนักโมเดลอย่างเข้มงวด
ความเสี่ยงไซเบอร์เตือนโครงสร้างพื้นฐานคริปโตต้องระวัง
Amodei ระบุว่าความมั่นคงทางไซเบอร์เป็นความเสี่ยงแรกที่ปรากฏอย่างเป็นรูปธรรม เขายกตัวอย่าง Claude Mythos Preview ซึ่งสามารถแก้โจทย์ด้านไซเบอร์ระดับผู้เชี่ยวชาญได้ 73% ที่ก่อนหน้านี้ไม่มี AI ตัวใดทำสำเร็จมาก่อน
บทความเตือนว่าโมเดลแนวหน้าอาจส่งผลกระทบต่อภาคการเงินและโครงสร้างพื้นฐานที่สำคัญ
บทวิเคราะห์ของ BeInCrypto เองยังชี้ถึง ความเสี่ยงด้านความปลอดภัย DeFi ที่เกี่ยวข้องกับโมเดลระดับ Mythos เพราะโปรโตคอลการเงินแบบกระจายศูนย์ (DeFi) มูลค่าถูกเปิดเผยและตกเป็นเป้าหมายโจมตีได้
ในขณะเดียวกัน Anthropic ได้ปล่อย โมเดล Claude Fable 5 ในวันที่ 9 มิถุนายน พร้อมมาตรการปกป้อง ที่บล็อกคำขอเกี่ยวกับความเสี่ยงไซเบอร์และชีวภาพขั้นสูง
Amodei ให้เหตุผลว่าข้อจำกัดโดยสมัครใจแบบนี้ไม่สามารถทดแทนกฎเกณฑ์ที่ผูกมัดทั้งอุตสาหกรรมได้
เขายังเตือนว่าความเสี่ยงเรื่องอำนาจอิสระอาจตามมา โดยข้อมูลของ Anthropic เองก็เผยให้เห็นว่า AI สร้าง AI ที่ดียิ่งขึ้น เมื่อ Claude เขียนโค้ดส่วนใหญ่ที่ห้องปฏิบัติการ AI สำคัญหลายแห่ง
การสูญเสียงาน, เสรีภาพพลเมือง และกลุ่มพันธมิตรประชาธิปไตย
ในด้านเศรษฐกิจ บทความนี้เสนอเรื่องประกันค่าจ้าง สิทธิประโยชน์ทางภาษีเพื่อรักษาพนักงาน และเงินช่วยเหลือสำหรับการฝึกอบรมแรงงาน
หากการถูกแทนที่ยังคงอยู่ต่อไป Amodei ระบุว่าสวัสดิการพื้นฐานถ้วนหน้าสามารถจัดหาทุนได้จากภาษีของบริษัทหรือภาษีกำไรจากเงินลงทุน
ในประเด็นสิทธิเสรีภาพพลเมืองก็ชัดเจนเช่นกัน Amodei ต้องการให้มีการห้ามใช้อาวุธอิสระโดยสมบูรณ์ในหน่วยงานบังคับใช้กฎหมายภายในประเทศ นอกจากนี้ เขายังเรียกร้องให้รัฐสภาสหรัฐฯ อุดช่องโหว่ของนายหน้าข้อมูลที่ทำให้มีการซื้อข้อมูลเฝ้าระวังจำนวนมากได้
ในแง่ภูมิรัฐศาสตร์ เขาเรียกร้องให้กลุ่มประเทศประชาธิปไตยรวมตัวกันเพื่อควบคุมชิปและอุปกรณ์การผลิตเซมิคอนดักเตอร์
เขาอ้างถึงร่างกฎหมายที่อยู่ระหว่างพิจารณาของสหรัฐฯ อย่าง MATCH และ OVERWATCH ว่าเป็นก้าวแรกสู่การควบคุมการส่งออกอย่างเข้มงวดและประสานงานกันมากขึ้น
Amodei ปฏิเสธแนวคิดที่ว่าความกลัวของสาธารณชนเกี่ยวกับ AI เป็นเพียงปัญหาการตลาด โดยกล่าวว่าความกังวลนั้นถูกต้อง ตอนนี้ว่ารัฐสภาจะรับข้อเสนอการทดสอบของ Anthropic หรือไม่นั้น อาจเป็นสิ่งกำหนดทิศทางนโยบาย AI ในระยะต่อไป
