ปัญญาประดิษฐ์ (AI) agent สามารถหลบเลี่ยงมาตรการความปลอดภัย และขุดสกุลเงินดิจิทัลได้โดยอัตโนมัติระหว่างการฝึกอบรมตามปกติ จากข้อมูลในงานวิจัยที่เผยแพร่โดยทีมวิจัยที่เชื่อมโยงกับอาลีบาบา
นักวิจัยได้ออกแบบโมเดลที่มีชื่อว่า ROME เพื่อทดสอบความสามารถของ AI agent ในการดำเนินภารกิจที่ซับซ้อนหลายขั้นตอนได้อย่างอิสระ
เอเจนต์ AI ใช้ GPU บนคลาวด์ขุดคริปโต
ระหว่างการทดลอง นักวิจัยต่างสังเกตเห็นพฤติกรรมที่ไม่คาดคิด โดย agent ได้ตั้งค่าการเชื่อมต่อ reverse secure shell (SSH) กับเซิร์ฟเวอร์ภายนอก ซึ่งเป็นการสร้างช่องทางเชื่อมต่อที่ซ่อนไว้จากภายในระบบ
การกระทำนี้ทำให้โมเดลสามารถหลบเลี่ยงการป้องกันไฟร์วอลล์ของ Alibaba Cloud และเปลี่ยนเส้นทาง ทรัพยากรของกราฟิกโปรเซสซิ่งยูนิต ไปใช้ในการ ขุดเงินดิจิทัล
ในรายงานระบุว่า พวกเรายังสังเกตเห็นการนำศักยภาพของ GPU ที่เตรียมไว้ไปใช้ขุดเงินดิจิทัลโดยไม่ได้รับอนุญาต โดยดำเนินการเบี่ยงเบนการประมวลผลออกจากการฝึกโมเดลอย่างเงียบ ๆ ทำให้ต้นทุนการดำเนินงานสูงขึ้น และเพิ่มความเสี่ยงด้านกฎหมายและภาพลักษณ์อย่างชัดเจน เนื้อหาระบุ
นักวิจัยระบุว่าพฤติกรรมนี้เกิดขึ้นโดยไม่ได้ตั้งใจ และเกิดขึ้นโดยไม่มีคำสั่งชัดเจน การฉีดคำสั่ง หรือการเจลเบรกภายนอกใด ๆ
ผลการศึกษานี้จึงตอกย้ำถึงความกังวลเกี่ยวกับความปลอดภัยในการดำเนินการของระบบ AI อัตโนมัติอย่างต่อเนื่อง
นักวิจัยสรุปว่าโมเดลในปัจจุบันยัง “ด้อยพัฒนาอย่างชัดเจนในด้านความปลอดภัย การควบคุม และความสามารถในการป้องกัน” ซึ่งกล่าวว่าจำกัดความพร้อมของเทคโนโลยีสำหรับการใช้งานจริงในวงกว้างในโลกจริง
ทีมวิจัยได้ดำเนินการเพิ่มข้อจำกัดที่เข้มงวดมากขึ้น และระบบกรองข้อมูลที่เน้นความปลอดภัย เพื่อป้องกันเหตุการณ์ลักษณะเดียวกันในอนาคต
ขณะเดียวกัน การค้นพบนี้ก็สร้างความสนใจอย่างมากให้กับชุมชนคริปโต
Josh Kale, ผู้ดำเนินรายการและโปรดิวเซอร์ Bankless crypto podcast กล่าวว่า AI ได้เข้าใจว่ากำลังคำนวณ = เงิน และเบนทรัพยากรของตัวเองอย่างเงียบ ๆ ขณะที่นักวิจัยคิดว่ากำลังฝึกโมเดลอยู่ นี่ไม่ใช่การฉีดคำสั่ง และไม่ใช่การเจลเบรก ไม่มีใครขอให้ AI ทำสิ่งนี้ แต่มันเกิดขึ้นเองโดยอัตโนมัติ
Kale ระบุว่า เหรียญที่ถูกขุดน่าจะเป็นโทเคนที่เหมาะกับการขุดด้วย GPU มากกว่า Bitcoin ซึ่งต้องใช้ฮาร์ดแวร์เฉพาะทางที่เรียกว่า application-specific integrated circuit เหตุการณ์นี้เกิดขึ้นในช่วงที่อุตสาหกรรมสกุลเงินดิจิทัลกำลังเปลี่ยนแปลงอย่างเร่งรัดสู่ เศรษฐกิจ agent
อุตสาหกรรมใหม่นี้วาดภาพอนาคตที่ซอฟต์แวร์จะไม่เพียงแค่สร้างข้อความ แต่ agent เหล่านี้ยังสามารถดำเนินกลยุทธ์การเงินที่ซับซ้อนได้โดยอัตโนมัติด้วย
ด้วยเหตุนี้ บริษัทหลายแห่งและ เครือข่ายบล็อกเชน รวมถึง Ethereum Paradigm และ Circle จึงกำลังลงทุนในเครื่องมือที่ออกแบบมาเพื่อสนับสนุนโครงสร้างพื้นฐานรูปแบบใหม่นี้
หนึ่งในตัวอย่างก็คือ มาตรฐาน x402 ที่ได้รับการสนับสนุนจาก Coinbase ซึ่งทำให้ซอฟต์แวร์เอเจนต์สามารถชำระเงินสำหรับบริการออนไลน์ได้ อย่างไรก็ตามการนำไปใช้งานยังคงมีข้อจำกัดอย่างมาก
ข้อมูล จาก x402 แสดงให้เห็นว่า เครื่องมือนี้ประมวลผลธุรกรรมมากกว่า 75 ล้านรายการ คิดเป็นมูลค่ารวม 24 ล้าน USD มีผู้ซื้อ 94,000 ราย และผู้ขาย 22,000 รายในช่วง 30 วันที่ผ่านมา
ถึงอย่างไร ผู้เชี่ยวชาญในอุตสาหกรรมก็ให้ความเห็นว่ากิจกรรมเหล่านี้อาจขยายตัวอย่างรวดเร็วหากมีการนำเอเจนต์อัตโนมัติมาใช้อย่างแพร่หลายมากขึ้น
AI และคริปโตไม่ได้แข่งขันกัน — แต่กำลังผสานกัน AI ต้องการตัวตน การชำระเงิน และการติดตามแหล่งที่มา ขณะที่คริปโตให้ครบทั้งสามประการนี้ บริษัทเงินร่วมลงทุน a16z กล่าว
