xAI ฟ้องผู้ใช้รายแรก หลังถูกชี้ว่า Grok ถูกใช้สร้างภาพลามกเด็กได้

xAI ของอีลอน มัสก์เดินหน้าฟ้องร้องผู้ใช้รายแรกที่บริษัทระบุว่าใช้แชตบอต Grok ไปสร้างหรือดัดแปลงภาพเชิงลามกที่เกี่ยวข้องกับเด็กและผู้ใหญ่โดยไม่ได้ยินยอม หลังบริษัทเผชิญแรงกดดันมากขึ้นให้ยอมรับว่าเครื่องมือนี้ยังสามารถถูกนำไปใช้ทำเนื้อหาอันตรายได้

คดีดังกล่าวพุ่งเป้าไปที่ Terry Wayne Harwood ซึ่งก่อนหน้านี้ถูกจับกุมในรัฐเซาท์แคโรไลนาในข้อหาครอบครองและเผยแพร่สื่อการล่วงละเมิดทางเพศเด็ก หรือ CSAM โดยอัยการประจำรัฐเปิดเผยการจับกุมดังกล่าว ข้อร้องเรียนของ xAI ระบุว่าบริษัทมีส่วนช่วยให้การจับกุมเกิดขึ้น หลังตรวจพบว่าผู้ใช้รายนี้ใช้งานบัญชี xAI สองบัญชีต่อเนื่องเป็นเวลาหลายเดือนเพื่อสั่งให้ระบบถอดเสื้อผ้าหรือทำภาพ “nudify” จากภาพที่ไม่เกี่ยวกับเรื่องเพศของเหยื่อหลายคน รวมถึงเด็กหญิงคนหนึ่งที่ดูมีอายุเพียงราว 10 ปี

กรณีนี้สะท้อนปัญหาที่ใหญ่กว่าคดีเฉพาะราย เพราะทำให้ประเด็นการควบคุมการใช้งานโมเดล AI เพื่อสร้างภาพล่อแหลมหรือผิดกฎหมายกลับมาเป็นจุดสนใจอีกครั้ง โดยเฉพาะเมื่อเครื่องมือ AI เชิงสนทนาหรือสร้างภาพยังถูกนำไปใช้ในทางที่ละเมิดสิทธิและก่ออันตรายได้ง่าย แม้ผู้พัฒนาจะพยายามใส่มาตรการป้องกันก็ตาม

สำหรับ xAI การยื่นฟ้องอาจเป็นทั้งการแสดงให้เห็นว่าบริษัทกำลังเอาจริงกับการใช้เครื่องมือในทางผิดกฎหมาย และเป็นการสร้างภาพลักษณ์ว่าบริษัทไม่ได้เพิกเฉยต่อปัญหาความปลอดภัยของ Grok แต่ในอีกด้าน คดีก็ยิ่งตอกย้ำว่าความเสี่ยงจากการใช้งาน AI เพื่อสร้าง CSAM หรือภาพไม่ยินยอมยังคงเป็นโจทย์สำคัญของอุตสาหกรรม AI ทั้งหมด