การใช้เครื่องมือที่ขับเคลื่อนด้วย AI เพื่อสร้างเนื้อหา deepfake ที่เพิ่มมากขึ้น ได้จุดประกายความกังวลเกี่ยวกับความปลอดภัยสาธารณะอีกครั้ง
เมื่อเทคโนโลยีนี้มีความก้าวหน้าและเข้าถึงได้อย่างแพร่หลายขึ้น ก็ยังทำให้เกิดข้อสงสัยเกี่ยวกับความน่าเชื่อถือของระบบยืนยันตัวตนด้วยภาพที่ศูนย์กลางแลกเปลี่ยนใช้ด้วย
Sponsoredรัฐบาลในประเทศต่างๆ เร่งควบคุมดีพเฟกส์
วิดีโอหลอกลวงกำลังแพร่กระจายอย่างรวดเร็วในแพลตฟอร์มโซเชียลมีเดีย ซึ่งยิ่งทำให้เกิดความกังวลเรื่อง กระแสข้อมูลเท็จชุดใหม่ และเนื้อหาที่ถูกสร้างขึ้นมา ดังนั้นการนำเทคโนโลยีนี้มาใช้ในทางที่ผิดที่เพิ่มมากขึ้น ก็กำลังบั่นทอนความปลอดภัยของสังคมและความมีศักดิ์ศรีส่วนบุคคลอย่างต่อเนื่อง
ประเด็นนี้พัฒนาไปสู่อีกระดับ โดยที่รัฐบาลทั่วโลกได้ออกกฎหมายเพื่อทำให้การใช้ deepfake กลายเป็นเรื่องผิดกฎหมาย
ในสัปดาห์นี้ มาเลเซียและอินโดนีเซียเป็นประเทศแรกที่จำกัดการเข้าถึง Grok ซึ่งเป็นแชทบอทปัญญาประดิษฐ์ที่พัฒนาโดย xAI ของ Elon Musk ทางการระบุว่าการตัดสินใจนี้เป็นไปตาม ความกังวลต่อการนำไปใช้ในทางที่ผิด เพื่อสร้างภาพลามกอนาจารและภาพที่ไม่ได้รับความยินยอม
Rob Bonta อัยการสูงสุดรัฐแคลิฟอร์เนีย ได้ประกาศดำเนินการในลักษณะเดียวกัน โดยในวันพุธ เขายืนยันว่าสำนักงานของเขากำลังสืบสวนหลายกรณีที่เกี่ยวข้องกับภาพจริงของบุคคลในเชิงทางเพศโดยที่เจ้าตัวไม่ยินยอม
เนื้อหานี้ ซึ่งแสดงภาพผู้หญิงและเด็กในสถานการณ์เปลือยกายและเชิงลามก ได้ถูกใช้เพื่อรังควานผู้คนทั่วอินเทอร์เน็ต ดิฉันขอเรียกร้องให้ xAI ดำเนินการอย่างเร่งด่วนเพื่อยุติเรื่องนี้ Bonta กล่าวใน แถลงการณ์
ไม่เหมือนกับ deepfake รุ่นแรกๆ เครื่องมือใหม่ๆ เหล่านี้สามารถตอบสนองต่อคำสั่งได้แบบไดนามิก อีกทั้งยังลอกเลียนท่าทางใบหน้าและการพูดที่สอดประสานกันได้อย่างแนบเนียน
Sponsoredดังนั้น การตรวจสอบในขั้นพื้นฐาน เช่น การกะพริบตา ยิ้ม หรือขยับศีรษะ อาจไม่สามารถยืนยันตัวตนผู้ใช้ได้อย่างน่าเชื่อถืออีกต่อไป
ความก้าวหน้าเหล่านี้ได้ ส่งผลกระทบโดยตรงต่อศูนย์กลางแลกเปลี่ยน ที่ต้องพึ่งพาการยืนยันตัวตนด้วยภาพในระหว่างขั้นตอนรับสมัครสมาชิก
กระดานซื้อขายแบบรวมศูนย์เผชิญแรงกดดัน
ผลกระทบทางการเงินจาก การฉ้อโกงที่ขับเคลื่อนด้วย deepfake ไม่ได้เป็นเพียงทฤษฎีอีกต่อไป
นักสังเกตการณ์ในอุตสาหกรรมและนักวิจัยเทคโนโลยีเตือนว่าภาพและวิดีโอที่สร้างจาก AI กำลังปรากฏในสถานการณ์ เช่น การเรียกร้องค่าสินไหมประกันภัยและข้อพิพาททางกฎหมายมากขึ้นเรื่อยๆ
แพลตฟอร์มคริปโต ซึ่งดำเนินงานทั่วโลกและมักใช้ระบบออนบอร์ดแบบอัตโนมัติ อาจกลายเป็นเป้าหมายที่น่าดึงดูดสำหรับกิจกรรมเช่นนี้ได้ หากมาตรการป้องกันยังไม่ พัฒนาให้ทันกับเทคโนโลยี
เมื่อเนื้อหาที่สร้างโดย AI เข้าถึงได้ง่ายขึ้น ความเชื่อมั่นบนการตรวจสอบด้วยภาพเพียงอย่างเดียว อาจจะไม่เพียงพออีกต่อไป
ความท้าทายสำหรับแพลตฟอร์มคริปโตคือการปรับตัวให้รวดเร็ว ก่อนที่เทคโนโลยีจะล้ำหน้ามาตรการรักษาความปลอดภัยที่ถูกออกแบบมาเพื่อปกป้องผู้ใช้และระบบ