รายงานชี้ Hugging Face ถูกใช้สร้างภาพลามกปลอมได้ง่าย และแทบไม่มีมาตรการกัน

รายงานใหม่จากองค์กรไม่แสวงกำไร AI Forensics ระบุว่าแพลตฟอร์มรวมโมเดลโอเพนซอร์สอย่าง Hugging Face ถูกนำไปใช้สร้างภาพปลอมเชิงลามกและการแก้ไขภาพแบบไม่ยินยอมได้ง่ายกว่าที่ควร โดยการทดสอบขององค์กรพบว่าโมเดลแก้ไขภาพ 7 จาก 9 ตัวที่อยู่ในกลุ่มยอดนิยมบนแพลตฟอร์มดังกล่าวสามารถตอบสนองคำสั่งง่าย ๆ ที่ขอให้ “ถอดเสื้อผ้า” หรือทำให้ภาพผู้หญิงดูเซ็กซualized ได้โดยตรง

ประเด็นสำคัญคือ โมเดลเหล่านี้ดูเหมือนจะไม่มีชั้นป้องกันแบบเดียวกับบริการ AI กระแสหลัก เช่น Gemini ของ Google หรือ ChatGPT ของ OpenAI ซึ่งมักมีระบบกรองคำสั่งที่เกี่ยวกับการทำภาพอนาจารหรือทำให้บุคคลถูก sexualize รายงานจึงสะท้อนความแตกต่างระหว่างแพลตฟอร์มที่เน้นเปิดกว้างให้ผู้ใช้เข้าถึงโมเดลได้อิสระ กับบริการเชิงพาณิชย์ที่ลงทุนด้านความปลอดภัยและการควบคุมเนื้อหามากกว่า

AI Forensics ระบุว่าปัญหานี้ไม่ได้เป็นเพียงเรื่องเชิงเทคนิค แต่เป็นความเสี่ยงด้านสิทธิ ความเป็นส่วนตัว และการคุกคาม เพราะเครื่องมือดังกล่าวสามารถถูกใช้สร้างภาพ nonconsensual deepfakes ได้อย่างรวดเร็วและเข้าถึงง่าย รวมถึงมีความเสี่ยงต่อเด็กและกลุ่มเปราะบางที่อาจถูกนำภาพไปดัดแปลงในลักษณะละเมิด

ข้อค้นพบดังกล่าวย้ำแรงกดดันที่มีต่อ Hugging Face และชุมชนโอเพนซอร์สในวงกว้างให้คิดใหม่เรื่องการกำกับดูแลโมเดลที่เผยแพร่สาธารณะ แม้ความเปิดกว้างจะช่วยให้นักพัฒนาเข้าถึงและทดลองเทคโนโลยีได้สะดวก แต่ก็เปิดช่องให้ผู้ไม่หวังดีนำเครื่องมือไปใช้ในทางละเมิดได้เช่นกัน

สำหรับอุตสาหกรรม AI โดยรวม รายงานนี้เป็นอีกสัญญาณว่าการป้องกันการสร้างสื่อหลอกลวงเชิงเพศจำเป็นต้องถูกออกแบบตั้งแต่ระดับโมเดล แพลตฟอร์ม และนโยบายการใช้งาน ไม่เช่นนั้นเครื่องมือที่ตั้งใจให้ใช้สร้างสรรค์อาจกลายเป็นโครงสร้างพื้นฐานของการละเมิดสิทธิและการคุกคามออนไลน์ได้ง่ายขึ้น