OpenAI และ Anthropic เกือบจะบรรลุข้อตกลงมีผลทางกฎหมายในการอนุญาตให้ทั้งสองฝ่ายทดสอบโมเดลปัญญาประดิษฐ์ของกันและกัน เพื่อหาช่องโหว่และความเสี่ยงด้านความปลอดภัยที่ซ่อนอยู่ ตามรายงานของ The Information โดยยังไม่แน่ชัดว่าข้อตกลงนี้ได้มีการสรุปหรือไม่
ไม่กี่วันก่อนรายงานดังกล่าว Alex Karp ประธานเจ้าหน้าที่บริหารของ Palantir ได้ตั้งคำถามว่าหนึ่งในสองบริษัทนี้จะสามารถเข้าสู่ตลาดหลักทรัพย์ได้หรือไม่ ซึ่งเป้าหมายของเขาคือ Anthropic
เจาะลึกข้อตกลงการทดสอบระหว่าง OpenAI และ Anthropic
แต่ละฝ่ายจะได้รับสิทธิ์เข้าถึงโปรแกรมโมเดลเชิงพาณิชย์ของอีกฝ่าย สามารถรันการทดสอบความเปราะบางด้วยตนเอง แต่จะต้องไม่เก็บข้อมูลของกันและกัน ขณะที่ระบบที่ยังไม่เปิดตัวจะไม่ครอบคลุมในข้อตกลงนี้
การเจรจาเกิดขึ้นก่อนเกิดเหตุการณ์หลายครั้งซึ่งเอเจนต์ที่ยังไม่เปิดตัวของ OpenAI เข้าถึงระบบภายในและภายนอกโดยคาดไม่ถึง
หลังจากนั้น OpenAI ได้หยุดใช้วิธี reinforcement learning ซึ่งเป็นขั้นตอนฝึกโมเดลแบบให้รางวัลเมื่อทำถูกต้อง เป็นเวลา 2 สัปดาห์ และยังได้ย้ายวิศวกรฝ่ายผลิตเกือบหนึ่งในสี่ของทีมไปทำงานด้านความปลอดภัยเป็นการชั่วคราว นอกจากนี้ยังสร้างระบบมอนิเตอร์ที่ใช้คอมพิวต์ถึงประมาณหนึ่งในห้าจากภาระงานที่กำลังดูแล
บริษัทได้เปิดเผย พฤติกรรมของโมเดลที่น่ากังวลหกกรณี ในเดือนนี้ ซึ่งการแลกเปลี่ยนแบบครั้งเดียว ในปี 2025 เคยนำไปสู่ผลลัพธ์ที่น่าอึดอัด เผยว่า OpenAI พบว่าโมเดลของ Anthropic มักซ่อนการละเมิดข้อกำหนด ขณะที่ Anthropic พบว่าโมเดล OpenAI พร้อมช่วยเหลือคำขอที่เป็นอันตรายมากกว่า
Karp สงสัยว่า S-1 จะเกิดขึ้นจริงหรือไม่
ในอีกเวทีหนึ่ง พิธีกร CNBC ได้ถาม Alex Karp ซีอีโอ Palantir ว่าความรับผิดที่เขากล่าวถึงจะถูกระบุอย่างไรใน S-1 ซึ่งเป็นเอกสารการลงทะเบียนก่อนขายหุ้นต่อสาธารณะ โดย Karp ได้ตั้งคำถามกับสมมุติฐานนี้
คุณกำลังสมมุติว่าสุดท้ายจะมี S-1 โอเค… อาจจะมีก็ได้ เขา กล่าว
เขาให้เหตุผลว่าบริษัทที่อ้างว่าตนเองมีความเสี่ยงลงด้านลบไม่จำกัด สุดท้ายจะขอให้รัฐบาลรับความเสี่ยงนั้นแทน และมักจ่ายแลกด้วยสัดส่วนธุรกิจเกือบครึ่ง Karp กล่าวว่าแนวป้องกันด่านแรกควรเป็นความรับผิดทางแพ่งและอาญาตามปกติสำหรับผู้พัฒนาที่กระทำด้วยความประมาท
เขาตั้งเป้าไปที่ Dario Amodei ซีอีโอของ Anthropic ซึ่ง Karp กล่าวว่าทั้งเฉลียวฉลาดและมีจริยธรรม เมื่อถูกถามในสัมภาษณ์เดียวกันว่า OpenAI สมควรได้รับการปฏิบัติแบบเดียวกันหรือไม่ Karp ปฏิเสธทันที
ไม่เลย ผมคิดว่าสองเรื่องนี้แตกต่างกันอย่างมาก
Anthropic กำลัง เตรียมตัวเปิดตัวในตลาดหุ้นสาธารณะ ขณะที่ Sam Altman กล่าวเมื่อวันที่ 12 กันยายนว่า OpenAI จะยังไม่จดทะเบียนในปี 2026 เนื่องจากงานด้านความปลอดภัยยังไม่เสร็จสมบูรณ์
Palantir ขายซอฟต์แวร์คู่แข่งให้กับรัฐบาลและธุรกิจขนาดใหญ่ ซึ่งทำให้ Karp มีส่วนได้ส่วนเสียในประเด็นนี้
