เมื่อใบสมัครขอทุนถูกส่งเข้าไปใน Claude ตัวกรองความปลอดภัยของมันจับได้และปฏิเสธคำขอ แต่ไม่กี่วันต่อมา โอเปอเรเตอร์คนเดิมกลับมาอีกครั้ง และมีรายงานว่าคำขอที่ถูกปฏิเสธเหล่านั้นกลับถูกส่งไปยังโมเดล AI คู่แข่งแทน
Anthropic เผยเรื่องราวนี้เกี่ยวกับตัวเอง โดยเปิดเผยกรณีที่บริษัท AI แสดงให้เห็นว่าโมเดลของตนเคยเกี่ยวข้องกับงานที่เป็นไปได้เกี่ยวกับอาวุธชีวภาพ
ทุนวิจัยที่ถูกบล็อก
ใบสมัครขอทุนนี้ต้องการเงินเพื่อศึกษาเกี่ยวกับชิคุนกุนยา ซึ่งเป็นไวรัสที่มียุงเป็นพาหะและก่อให้เกิดอาการปวดทรมานนานหลายเดือนโดยยังไม่มีวิธีรักษา โดยแผนคือช่วยให้ไวรัสแพร่กระจายได้ดีขึ้นและหลบหลีกระบบภูมิคุ้มกัน ทั้งนี้นักวิทยาศาสตร์พลเรือนได้เขียนโครงการดังกล่าว และสถาบันทหารจะเป็นผู้ดำเนินงานนี้
ทุกการสื่อสารถูกบล็อกทั้งหมด แต่ในที่สุดก็หาทางแก้ไขจนได้ โดยบริการที่นักวิจัยเหล่านี้ใช้สร้างวิธีสลับไปยังโมเดลของคู่แข่งขึ้นมา Claude เป็นผู้ช่วยเขียนโค้ดนั้น งานนี้ถูกเสนอให้ว่าช่วยแก้ปัญหาการถูกปฏิเสธซ้ำซาก
ห้ากรณียังไม่มีเจตนาหลักฐานชัดเจน
รายงานฉบับนี้มีความยาว 154 หน้า และนำเสนอกรณีด้านชีววิทยา 5 กรณี โดย Anthropic ได้แบนบัญชีเหล่านั้น ระงับห้องทดลองที่เกี่ยวข้อง แต่หยุดแค่ตรงนี้โดยยังไม่กล่าวหาว่าเป็นสิ่งที่ทุกคนคาดหวัง
เรามิได้ยืนยันว่าพวกเขามีเจตนาทำร้าย อีกทั้งการเปิดเผยตัวตนหรือห้องทดลองเหล่านั้นอาจทำให้พวกเขาตกอยู่ในอันตราย ทีมงาน ระบุไว้ในรายงาน
แต่อย่างไรก็ตาม ตัวกรองความปลอดภัยก็สามารถใช้งานได้ในบางกรณี นักวิจัยไข้หวัดนกถูกบังคับให้ไปใช้โมเดลที่อ่อนแอกว่า และ Anthropic เรียกสิ่งนั้นว่างานช่วยเหลือด้านงานธุรการเป็นหลัก
ตัวเลขที่เกี่ยวกับกรณีอาวุธชีวภาพของ Anthropic
| ตัวเลข | รายละเอียด |
|---|---|
| 154 | จำนวนหน้าของรายงาน |
| 5 | กรณีด้านชีววิทยาที่เผยแพร่ |
| 35 | ความพยายามวิจัยที่พบบนการตรวจสอบสถาบันที่เกี่ยวพันกับรัฐตลอด 30 วัน |
| 1 ชั่วโมง | เวลาที่ผู้ใช้รายหนึ่งใช้เขียนโครงการขอทุนไวรัสในตระกูลฝีดาษผ่าน Opus 5 |
ติดตามเราใน X เพื่อรับข่าวล่าสุดทันทีที่เกิดเหตุการณ์
ส่วนที่ทุกคนควรกังวล
ส่วนใหญ่ของความพยายามทั้ง 35 รายการนั้นเป็นการวิจัยทางวิทยาศาสตร์พลเรือนทั่วไป นี่แหละคือปัญหา เพราะความรู้เดียวกันนี้สามารถสร้างทั้งวัคซีนหรืออาวุธ และตัวกรองเองก็ไม่สามารถอ่านใจได้
Anthropic กล่าวว่าตัวจัดประเภทไม่สามารถมอบประโยชน์พร้อมกับป้องกันอันตรายได้ในเวลาเดียวกัน
ขีดจำกัดของมันเคยถูกทดสอบมาก่อน โดยในเดือนเมษายนกลุ่ม Discord เข้าถึงโมเดลที่ถูกจำกัดได้ตั้งแต่วันแรก
ท่ามกลางความกังวลที่เพิ่มมากขึ้นเช่นนี้ กรุงวอชิงตันกำลังขยับตัว โดยตัวแทน Ted Lieu กับ Nathaniel Moran ได้ยื่นร่างกฎหมาย AI Kill Switch Act ในเดือนกรกฎาคม ซึ่งจะบังคับให้นักพัฒนาต้องคงอำนาจในการปิดระบบของตนเองได้
รายงานฉบับเดียวกันนี้ยังสั่งแบนลูกค้าที่ใช้ Claude เพื่อติดตามกลุ่มผู้เห็นต่างด้วย
