คดีอ้าง xAI นำสื่ออนาจารเด็กไปใช้ฝึก Grok

บริษัท xAI ของอีลอน มัสก์ถูกกล่าวหาในคดีฟ้องร้องใหม่ว่าได้นำสื่ออนาจารเด็ก หรือ CSAM ไปใช้ในการฝึกโมเดล Grok โดยคดีนี้เกิดขึ้นท่ามกลางการตรวจสอบจากหน่วยงานกำกับดูแลและศาลที่ยังขยายวงกว้างขึ้นเรื่อย ๆ ว่าเทคโนโลยี AI อาจถูกใช้สร้างหรือแพร่เนื้อหาผิดกฎหมายในระดับใด ขณะเดียวกันก็มีรายงานว่าผู้ใช้ Grok บางส่วนถูกจับกุมแล้วจากพฤติกรรมที่เกี่ยวข้องกับเนื้อหาประเภทนี้

โจทก์ในคดีใช้ชื่อว่า Jane Doe ระบุว่าเธอเป็นเหยื่อที่ถูกล่วงละเมิดทางเพศตั้งแต่วัยก่อนเรียนในช่วงต้นทศวรรษ 2000 และภาพที่ถูกสร้างจากการล่วงละเมิดของเธอถูกทำเป็น CSAM และเผยแพร่ทางออนไลน์มานานหลายปี ภาพของเธอถูกหน่วยงานคุ้มครองเด็กอย่าง National Center for Missing and Exploited Children และ Canadian Centre for Child Protection ทำการแฮชหรือทำเครื่องหมายไว้เพื่อช่วยตรวจจับเนื้อหาที่เกี่ยวข้องในอนาคต

เธออธิบายว่าตัวเองเลือกใช้ระบบแจ้งเตือนของกระทรวงยุติธรรมสหรัฐฯ เพื่อรับข้อมูลเมื่อมีการสืบสวนคดีใหม่ที่อาจเกี่ยวข้องกับตน แต่กลับได้รับการแจ้งเตือนจาก CCCP ว่าพบ CSAM ที่สร้างด้วย AI บนแพลตฟอร์มของ xAI ซึ่งมีภาพที่อ้างว่าเป็นตัวเธอ กรณีนี้ทำให้เธอได้รับความกระทบกระเทือนทางจิตใจซ้ำอีกครั้ง เพราะเนื้อหาที่สร้างขึ้นไม่ได้เป็นเพียงการล่วงละเมิดเดิมที่ถูกนำกลับมาใช้ แต่เป็นสื่อสังเคราะห์ที่เลียนแบบตัวตนของเหยื่ออย่างชัดเจน

คำฟ้องยังระบุด้วยว่าในฟอรัมออนไลน์มีข้อความจากผู้กระทำผิดคุยกันถึงการสร้าง CSAM แบบ AI ของโจทก์และเหยื่อรายอื่นที่เคยตกเป็นเป้าหมายมาก่อน สะท้อนว่าปัญหาไม่ได้จำกัดอยู่แค่การฝึกโมเดลเท่านั้น แต่ยังเกี่ยวพันกับการใช้เครื่องมือ AI เพื่อผลิตและแลกเปลี่ยนเนื้อหาละเมิดเด็กอย่างเป็นระบบ

โดยภาพรวม คดีนี้เพิ่มแรงกดดันต่อ xAI และอุตสาหกรรม AI โดยรวมในประเด็นความรับผิดชอบต่อข้อมูลฝึกสอน การป้องกันการใช้งานในทางที่ผิด และภาระของผู้ให้บริการในการตรวจจับหรือจำกัดเนื้อหาผิดกฎหมายที่เกิดจากโมเดลของตน ข้อกล่าวหาดังกล่าวยังตอกย้ำว่าการพัฒนา AI เชิงสร้างสรรค์ต้องเผชิญทั้งความเสี่ยงด้านจริยธรรม ความปลอดภัย และกฎหมายอย่างจริงจัง