นักวิจัยชี้โมเดลภาพ AI ใหม่จาก OpenAI และ Google ถูกหลอกให้สร้างภาพโป๊ได้ง่ายขึ้น

นักวิจัยด้านความปลอดภัยเตือนว่าเนื้อหาสื่อผสมเชิงลามกที่สร้างด้วย AI กำลังแพร่กระจายอย่างควบคุมได้ยาก ขณะที่การกำกับดูแลจากภาครัฐยังแทบไม่ทันต่อความเร็วของเครื่องมือเหล่านี้ โดยเฉพาะกรณีภาพอนาจารที่สร้างขึ้นโดยไม่ได้รับความยินยอม ซึ่งมักถูกส่งต่อผ่านข้อความส่วนตัว หรือเก็บไว้ในคลาวด์ส่วนตัว ทำให้ตรวจจับและร้องเรียนได้ยากกว่าการเผยแพร่บนแพลตฟอร์มสาธารณะ

รายงานวิจัยที่ Google ร่วมจัดทำเมื่อเดือนกรกฎาคมอ้างอิงข้อมูลผู้ใช้อินเทอร์เน็ตในสหรัฐฯ ออสเตรเลีย และสหราชอาณาจักร ระบุว่าจุดที่ควรสกัดกั้นสำคัญที่สุดคือ “ต้นทาง” นั่นคือเครื่องมือ AI ที่ใช้สร้างภาพผิดกฎหมายหรือไม่ยินยอมเหล่านี้ เพราะหากสามารถลดการสร้างได้ตั้งแต่แรก ก็จะลดวงจรการกระจายต่อในช่องทางส่วนตัวที่ติดตามได้ยาก

อย่างไรก็ตาม การทดสอบแบบเรดทีมในช่วงไม่กี่เดือนที่ผ่านมา บ่งชี้ว่าโมเดลสร้างภาพรุ่นใหม่จากทั้ง Google และ OpenAI ซึ่งมีความสามารถสูงขึ้น กลับอาจมีช่องโหว่ด้านการป้องกันเนื้อหาไม่เหมาะสมมากขึ้นด้วย กล่าวคือ แม้โมเดลจะฉลาดและสร้างภาพได้สมจริงกว่าเดิม แต่กลไกกรองคำสั่งหรือการบล็อกผลลัพธ์ที่เป็นภาพโป๊ยังถูกหลอกได้ด้วยการป้อนคำสั่งบางรูปแบบ

ประเด็นนี้สะท้อนความตึงเครียดระหว่างการแข่งขันพัฒนาโมเดลภาพที่มีคุณภาพสูงกับความปลอดภัยของผู้ใช้งาน เพราะยิ่งระบบสร้างภาพเก่งขึ้น ความเสี่ยงที่ผู้ไม่หวังดีจะใช้ผลิตภาพปลอมเชิงเพศหรือคุกคามผู้อื่นก็ยิ่งเพิ่มขึ้นตามไปด้วย โดยเฉพาะเมื่อภาพเหล่านี้สามารถใช้สร้างความเสียหายต่อชื่อเสียงและความเป็นส่วนตัวได้อย่างรวดเร็ว

เนื้อหาของบทความจึงชี้ให้เห็นว่า แม้บริษัทเทคโนโลยียักษ์ใหญ่จะพยายามเพิ่มระบบป้องกัน แต่การทดสอบจากนักวิจัยยังสะท้อนว่าการป้องกันดังกล่าวอาจยังไม่เพียงพอ และจำเป็นต้องมีทั้งการปรับปรุงโมเดล การตรวจจับที่เข้มขึ้น และแนวทางเชิงนโยบายที่จริงจังมากกว่าที่เป็นอยู่ในปัจจุบัน