รายงานชี้โมเดลบน Hugging Face จำนวนมากสร้างดีปเฟกผู้ใหญ่แบบไม่ยินยอม

รายงานจากนักวิจัยที่ตรวจสอบแพลตฟอร์ม Hugging Face ระบุว่า โมเดลจำนวนมากบนระบบสามารถนำไปใช้สร้างภาพหรือวิดีโอปลอมเชิงลามกของบุคคลจริงได้ โดยเฉพาะเนื้อหาที่เป็นการตัดต่อแบบไม่ยินยอมของผู้หญิงและบุคคลสาธารณะ ประเด็นนี้ทำให้เกิดข้อกังวลอย่างหนักเกี่ยวกับการควบคุมคุณภาพและการกำกับดูแลโมเดลเอไอแบบโอเพนซอร์ซ ซึ่งมักเผยแพร่ให้ผู้ใช้ดาวน์โหลดและนำไปใช้งานต่อได้อย่างง่ายดาย

สาระสำคัญของงานวิจัยคือ การทดสอบพบว่าโมเดลส่วนใหญ่ที่ถูกตรวจสอบมีความสามารถในการสร้างผลลัพธ์ที่เข้าข่าย deepfake สำหรับผู้ใหญ่ได้ ไม่ว่าจะเป็นจากการปรับแต่งโมเดลที่มีอยู่แล้วหรือการใช้เครื่องมือที่เกี่ยวข้องกับการสังเคราะห์ภาพและวิดีโอ ผลลัพธ์เหล่านี้สะท้อนว่าปัญหาไม่ได้จำกัดอยู่ที่ผู้พัฒนาโมเดลรายใดรายหนึ่ง แต่เป็นช่องโหว่เชิงระบบของแพลตฟอร์มที่เปิดให้เผยแพร่และค้นหาโมเดลได้กว้างขวาง

Hugging Face เป็นหนึ่งในศูนย์กลางสำคัญของชุมชนเอไอแบบโอเพนซอร์ซ เพราะเป็นที่รวมทั้งโมเดล ชุดข้อมูล และเครื่องมือสำหรับนักพัฒนา ทำให้มีบทบาทสูงต่อการวิจัยและการพัฒนาแอปพลิเคชันเอไอ แต่ความเปิดกว้างดังกล่าวก็ทำให้เกิดความเสี่ยงด้านการนำไปใช้ในทางที่ผิด โดยเฉพาะกับเทคโนโลยีสร้างสื่อสังเคราะห์ที่ราคาถูก ใช้งานง่าย และแพร่กระจายได้รวดเร็ว

กรณีนี้จึงตอกย้ำคำถามเรื่องความรับผิดชอบของแพลตฟอร์มเอไอ ว่าควรตรวจสอบหรือจำกัดโมเดลที่มีแนวโน้มถูกใช้สร้างเนื้อหาละเมิดสิทธิได้มากน้อยเพียงใด รวมถึงจะออกแบบมาตรการป้องกันอย่างไรโดยไม่บั่นทอนการใช้งานเพื่อการวิจัยหรือพัฒนาอย่างถูกต้อง ผู้เชี่ยวชาญมองว่า หากไม่มีระบบคัดกรองและแจ้งเตือนที่เข้มขึ้น ความเสียหายจากดีปเฟกเชิงลามกแบบไม่ยินยอมอาจยิ่งขยายตัวได้ง่าย

โดยรวม รายงานนี้สะท้อนความตึงเครียดระหว่างการส่งเสริมนวัตกรรมเอไอแบบเปิดกับการปกป้องความเป็นส่วนตัวและศักดิ์ศรีของบุคคลจริง ซึ่งเป็นโจทย์ที่อุตสาหกรรมเอไอและแพลตฟอร์มที่ให้บริการโมเดลต้องเร่งหาทางตอบให้ชัดเจนมากขึ้น