Google Threat Intelligence Group สามารถจับทีมแฮกเกอร์อาชญากรที่ใช้เครื่องมือ AI สร้าง zero-day exploit สำเร็จเป็นครั้งแรกแบบสด ๆ ในโลกออนไลน์ พร้อมหยุดยั้งแผนโจมตีครั้งใหญ่ก่อนที่มันจะเริ่มขึ้น
การค้นพบนี้เป็นส่วนหนึ่งของรายงานที่กว้างขึ้น ซึ่งแสดงให้เห็นว่าผู้โจมตีในตอนนี้ได้ผสมผสานโมเดลภาษาขนาดใหญ่เข้ากับทุกขั้นตอนของการบุกรุก ขณะที่ฝ่ายป้องกันกำลังเร่งปรับใช้เครื่องมือ AI ในการต่อสู้เช่นเดียวกัน
วิธีการทำงานของ AI Zero-Day Exploit
โค้ดประสงค์ร้ายนี้ถูกเขียนด้วย Python และสามารถข้าม การยืนยันตัวตนแบบสองปัจจัย (2FA) บนเครื่องมือบริหารระบบโอเพนซอร์สยอดนิยม โดยทาง Google ยังไม่ได้ เปิดเผยชื่อผู้ให้บริการที่ได้รับผลกระทบ
ติดตามเราบน X เพื่อรับข่าวสารล่าสุดแบบเรียลไทม์
มีหลายสัญญาณที่ชี้ว่าโค้ดนี้สร้างขึ้นโดยโมเดลภาษาขนาดใหญ่ สคริปต์มีคำอธิบายลักษณะเดียวกับการสอน และใส่คะแนน CVSS ปลอม ซึ่งไม่มีนักวิจัยมนุษย์คนใดจะสร้างขึ้นมาเอง
Google ระบุว่าทางบริษัทไม่ได้ใช้ Gemini ของตนเองในการโจมตีนี้ โดยหัวหน้านักวิเคราะห์ GTIG John Hultquist เตือนว่า ในตอนนี้อาจมีการบุกรุกที่ AI ช่วยเหลือแต่ยังไม่ถูกตรวจพบอยู่แล้ว
แต่ละเจเนอเรชันของโมเดลใหม่ ๆ จะช่วยลดความจำเป็นที่ต้องใช้ผู้เชี่ยวชาญช่วยสร้าง harness แต่แทบจะแน่นอนว่ามีบางอย่างที่ถูกพัฒนาเรียบร้อยแล้ว เราต้องตระหนักถึงข้อจำกัดในการมองเห็น backend ของสายลับและอาชญากร เพราะสัญญาณจะไม่ชัดเจน และการแข่งขันได้เริ่มขึ้นแล้ว ตามที่เขา กล่าวไว้
ฝ่ายป้องกันตอบโต้
ในรายงานเดียวกันนี้ยังระบุถึงมัลแวร์ฝั่งรัสเซียอย่าง PROMPTFLUX และ PROMPTSPY รวมถึงแอป backdoor บน Android ที่ติดต่อกับ Gemini แบบเรียลไทม์เพื่อวางแผนการกระทำถัดไป
ขณะเดียวกัน กลุ่มที่เชื่อมโยงกับรัฐของจีนและเกาหลีเหนือ กำลังฝึกฝนโมเดลส่วนตัวด้วยข้อมูลช่องโหว่กว่า 85,000 รายการ
ทาง Google ได้ตอบโต้ด้วย Big Sleep ซึ่งเป็นเอเจนต์ AI ที่ล่า zero-day ก่อนที่แฮกเกอร์จะพบมัน และ CodeMender ระบบอัตโนมัติสำหรับแพตช์หาช่องโหว่ โดย Big Sleep ได้อุดรูรั่วไปแล้วหนึ่งจุดที่แฮกเกอร์กำลังเตรียมสร้างเป็นอาวุธ
เหตุผลที่คริปโตต้องจับตา
ช่องว่างระหว่างการโจมตีและการป้องกันกำลังชัดเจนยิ่งขึ้น Binance Research พบว่า AI สามารถใช้ประโยชน์จาก smart contractได้ดีกว่าการตรวจจับความเสี่ยงถึงสองเท่า
ก่อนหน้านี้มีรายงานว่าเครื่องมือ AI ของ Google สามารถ ช่วยเหลือมิจฉาชีพในการดูดเงินจากกระเป๋าเงินคริปโต และช่องโหว่ใหม่ใน Chrome ก็เพิ่ง เปิดเผยคีย์ส่วนตัว ออกมาเช่นกัน
ท่ามกลางสถานการณ์นี้ แพลตฟอร์มแลกเปลี่ยนต่างๆ ก็กำลัง นำ AI ตัวเองมาใช้ป้องกัน แต่มาตรฐานในการป้องกันก็ยังคงสูงขึ้นเรื่อยๆ
ในเมื่อทั้งสองฝั่งต่างมีเอเจนต์อัตโนมัติของตัวเอง ช่องโหว่ zero-day ตัวถัดไปอาจจะมาจากเครื่องจักรฝั่งใดฝั่งหนึ่งก็เป็นได้
