OpenAI กำลังเพิ่มลายน้ำที่มองไม่เห็นของ ChatGPT ลงในข้อความของแชทบอทและเอาต์พุตโค้ด Codex ทั่วสหภาพยุโรป อย่างไรก็ตาม การทดสอบของบริษัทเองแสดงว่า ถ้าสลับคำหนึ่งในสี่เป็นคำเหมือนกัน อัตราการตรวจจับจะลดเหลือเพียง 17% เท่านั้น
การตัดสินใจนี้เป็นการตอบสนองต่อกฎหมาย EU AI Act ซึ่งเป็นกฎระเบียบด้าน AI ของกลุ่มประเทศยุโรป ที่ระบุให้ต้องมีป้ายกำกับที่เครื่องสามารถอ่านได้ในข้อความที่สร้างโดย AI อย่างไรก็ดี OpenAI ยอมรับว่าเทคโนโลยีนี้ยังไม่สมบูรณ์ ดังนั้น ตัวตรวจจับจึงยังไม่เปิดให้บุคคลทั่วไปใช้งานในตอนนี้
ลายน้ำของ ChatGPT แข็งแกร่งแค่ไหนเมื่อมีคนแก้ไขข้อความ?
อ้างอิงจาก ประกาศของ OpenAI ระบบที่ชื่อว่า textGrain จะเปลี่ยนการเลือกใช้คำของโมเดลให้มีรูปแบบทางสถิติที่ซ่อนอยู่ จากนั้นจะมีตัวตรวจจับอีกตัวหนึ่งคอยสแกนเนื้อหาเพื่อหารูปแบบดังกล่าว
OpenAI อธิบายใน FAQ ว่าลายน้ำนี้อยู่ในรูปแบบการใช้ถ้อยคำเองเท่านั้น ไม่ได้เพิ่มอักขระซ่อน ช่องว่างที่มองไม่เห็น หรือเครื่องหมายวรรคตอนแปลก ๆ นั่นหมายความว่า เทคนิคทั่วไปอย่างการลบอักขระที่ซ่อนอยู่จะไม่สามารถใช้ได้
ความยาวของข้อความมีผลอย่างมาก OpenAI ใช้หน่วยวัดเป็นโทเคน ซึ่งคือส่วนของคำที่โมเดล AI ประมวลผล โดยโทเคนหนึ่งเท่ากับประมาณสามในสี่ของคำภาษาอังกฤษหนึ่งคำ
จากการทดสอบของ OpenAI ตัวตรวจจับสามารถพบข้อความที่ไม่ถูกแก้ไขประมาณ 66% ในคำตอบราว 150 คำ และสำหรับข้อความที่ยาวประมาณ 300 คำ อัตราการตรวจจับเพิ่มขึ้นเป็นประมาณ 92%
การแก้ไขข้อความเพียงเล็กน้อยก็ยังทำให้ลายน้ำของ ChatGPT อ่อนแอลงอีกด้วย ในข้อความ 300 คำ หากสลับคำหนึ่งในสิบเป็นคำเหมือน อัตราตรวจจับจะลดจาก 92% เหลือ 66% แต่ถ้าสลับคำหนึ่งในสี่ อัตราการตรวจจับจะลดเหลือเพียง 17%
ลายน้ำนี้แทบไม่มีผลต่อคะแนน benchmark ของ GPT-6 Astra ของ OpenAI ซึ่งเป็นโมเดลล่าสุดที่พัฒนาโดยบริษัทนี้
ทำไม OpenAI จึงไม่เปิดให้สาธารณชนใช้ตัวตรวจจับนี้?
OpenAI เลือกที่จะรับสมัครเฉพาะนักวิจัยที่ได้รับอนุมัติและองค์กรผู้เชี่ยวชาญเท่านั้น บริษัทระบุว่า หากพบผลบวก จะไม่เปิดเผยถึงผู้ใช้ ข้อความ หรือการสนทนาใด ๆ
แต่แม้ได้รับผลลบก็ยังวางใจไม่ได้ เพราะข้อความที่สั้น ถูกแก้ไข หรือแปลแล้วอาจหลุดรอดจากการตรวจจับได้ รวมถึงข้อความที่มาจากเครื่องมือ AI คู่แข่งด้วย
การที่ไม่มีการตรวจพบลายน้ำไม่ได้เป็นหลักฐานว่าผู้เขียนเป็นมนุษย์
ที่มา: OpenAI
ภาพและเสียงนั้นทำงานต่างออกไป ทุกคนสามารถอัปโหลดไฟล์เหล่านั้นไปยังเครื่องมือตรวจสอบสาธารณะของ OpenAI และตรวจเช็กลายน้ำ SynthID ได้อย่างสะดวก
นอกยุโรป การเปิดใช้ลายน้ำใน ChatGPT จะปิดไว้เป็นค่าเริ่มต้น อย่างไรก็ตาม ลูกค้า API ทั่วโลกตอนนี้สามารถเลือกเปิดใช้สำหรับโมเดลที่เลือกผ่านการตั้งค่าโครงการหรือองค์กรของตนเองได้
การเปิดใช้เหล่านี้เกิดขึ้นหลังจากที่สหภาพยุโรปเริ่มต้นบังคับใช้ มาตรการความโปร่งใส AI Act เมื่อเดือนสิงหาคม ในวงการคริปโต สิ่งนี้มีความสำคัญอย่างชัดเจน เพราะการรับเอา AI ไปใช้ในอาชญากรรม เพิ่มขึ้นถึง 40% เมื่อเทียบกับปีก่อน ตามรายงานของ TRM Labs
ดังนั้น ช่องว่างระหว่างสิ่งที่หน่วยงานกำกับต้องการกับสิ่งที่ผู้ตรวจจับพิสูจน์ได้ อาจมีบทบาทในการกำหนดวิธีที่แต่ละห้องปฏิบัติการ AI หลักปฏิบัติตามข้อกำหนด
