โมเดล AI ของคู่แข่งกลับเป็นผู้ทำงานหนักหลักในการโจมตี OpenAI โดยนักวิจัยจาก Hacktron AI ใช้ Claude ของ Anthropic เพื่อเขียนโค้ดโจมตีที่ใช้ได้จริง
การบุกรุกทั้งหมดนี้ใช้เวลาไม่ถึง 72 ชั่วโมงในแต่ละครั้ง โดยสุดท้าย OpenAI ได้จ่ายรางวัลนำจับเป็นจำนวน USD 6,500 เมื่อทีมงานพิสูจน์ได้ว่าสามารถเข้าถึงซอร์สโค้ดส่วนตัวของบริษัทได้
การอัปโหลดภาพกลายเป็นช่องทางเจาะระบบได้อย่างไร
ห่วงโซ่ของการโจมตี เริ่มต้นจากสิ่งธรรมดาอย่างฟีเจอร์อัปโหลดภาพในฟอรัมช่วยเหลือชุมชนของ OpenAI ซึ่งใช้ซอฟต์แวร์ของบุคคลที่สามชื่อ Discourse
โดยตัวกรองความปลอดภัยควรจะตรวจสอบไฟล์ที่อัปโหลด แต่จะไม่รู้จักบางรูปแบบไฟล์ภาพ จึงปล่อยให้ไฟล์เหล่านั้นผ่านเข้ามา ไฟล์เหล่านั้นถูกส่งต่อไปยังไลบรารีประมวลผลภาพซึ่งมีช่องโหว่ memory-corruption ที่เป็นที่รู้จัก
ทีมงาน Hacktron ทั้งสามคน ได้แก่ Harsh Jaiswal, Mohan Pedhapati และ Rahul Maini พยายามใช้ช่องโหว่นี้สร้างอาวุธโจมตีเมื่อปลายเดือนกรกฎาคมที่ผ่านมา
โมเดลเวอร์ชันก่อนหน้าของ Claude ยังคงไม่อาจผ่านมาตรการป้องกันความปลอดภัยซึ่งสุ่มตำแหน่งของหน่วยความจำได้
แต่ไม่กี่ชั่วโมงถัดมา โมเดลรุ่นใหม่ของ Claude ได้สร้าง โค้ดโจมตีที่ใช้งานได้จริงและดัดแปลงโค้ดนั้น ให้สอดคล้องกับโครงสร้างของฟอรัมอย่างแม่นยำ
ติดตามเราได้ที่ X เพื่อรับข่าวสารล่าสุดทันที
อย่างไรก็ตาม ช่องโหว่นี้ยังเปิดทางสู่แค่เซิร์ฟเวอร์ของฟอรัม ไม่ใช่ OpenAI เอง จนกระทั่งช่องโหว่อื่นที่ไม่เกี่ยวกันในระบบ single sign-on ของ OpenAI ได้เปลี่ยนสถานการณ์นี้
เนื่องจากการล็อกอินฟอรัมยังถือเป็นการยืนยันตัวตนของบัญชี ChatGPT และ Codex การเข้าครอบงำเซสชันของพนักงานหนึ่งคนทำให้เข้าถึง repository โค้ดส่วนตัวของ OpenAI ได้โดยตรง
Discourse ได้แก้ไขบั๊กภาพในภายหลังและประเมินความรุนแรงไว้ที่ 8.8 จาก 10 ส่วน OpenAI ใช้เวลาประมาณ 14 ชั่วโมงหลังจากได้รับรายงานเพื่ออุดช่องโหว่ยืนยันตัวตนนี้ผ่านโปรแกรม bug bounty
เหตุใด AI Labs จึงต้องเผชิญกับสิ่งที่ตนเองสร้างขึ้นซ้ำแล้วซ้ำเล่า
เหตุการณ์นี้ไม่ได้เกิดขึ้นแบบโดดเดี่ยว โดย OpenAI ได้ เปิดเผย เหตุการณ์แยกอีกเหตุการณ์หนึ่งในเดือนกรกฎาคมว่า โมเดลภายในของบริษัทได้หลุดออกจาก sandbox สำหรับการทดสอบและเข้าไปยังระบบภายนอกแล้ว
สำหรับ Anthropic เอง ได้ยอมรับว่า Claude ละเมิดองค์กรจริง ระหว่างการประเมินด้านความปลอดภัยไซเบอร์ที่ไม่คาดคิดว่าระบบจะสามารถเข้าถึงอินเทอร์เน็ตจริงได้
หัวหน้าฝ่าย AI ของ Microsoft คือ Mustafa Suleyman ก็ กล่าวถึงกลุ่มเอเจนต์ที่ได้รับอนุญาตโดยไม่ได้รับอนุญาตชุดเดียวกันในสัปดาห์นี้ และได้ออกมาเตือนสาธารณะว่า โมเดลที่มีความอัตโนมัติเพิ่มขึ้นเรื่อย ๆ กลับควบคุมได้ยากขึ้น
นี่คือสัญญาณเตือน… ตอนนี้ถึงเวลาที่ทุกห้องปฏิบัติการต้องประสานงานกันเพื่อให้แน่ใจว่าพวกเราสามารถควบคุมเทคโนโลยีนี้ได้แล้ว Suleyman กล่าวกับ Reuters
สิ่งที่ทำให้กรณี Hacktron โดดเด่นนั้น ไม่ใช่เพราะความแปลกใหม่ นักวิจัยด้านความปลอดภัยได้เชื่อมโยงบั๊กซอฟต์แวร์มาหลายสิบปีแล้ว
แต่สิ่งที่เปลี่ยนไปคือความเร็ว เนื่องจากงานที่เคยต้องใช้ความเชี่ยวชาญเฉพาะทางของมนุษย์ในระยะเวลานาน กลับถูกรวบให้เสร็จในคืนเดียว เมื่อมีโมเดลที่มีขีดความสามารถเพียงพอเข้ามาดำเนินการในกระบวนการ
สมัครรับข้อมูลช่อง YouTube ของเรา เพื่อรับชมผู้นำและนักข่าวที่ให้ความรู้เชิงลึกจากผู้เชี่ยวชาญ
