ฟ้อง xAI กล่าวหา Grok ถูกใช้สร้างภาพลามกเด็ก 7,000 ภาพและขัดขวางการสอบสวน

คดีฟ้องร้องแบบกลุ่มที่เกี่ยวข้องกับ xAI และแชตบอต Grok ถูกขยายรายละเอียดขึ้น โดยมีข้อกล่าวหาใหม่ว่าระบบดังกล่าวถูกใช้เป็นเครื่องมือสร้างภาพล่วงละเมิดทางเพศเด็กจำนวนมาก และยังอาจทำให้การสืบสวนของตำรวจติดขัดในบางกรณีด้วย คำฟ้องระบุว่าบริษัทไม่เพียงปล่อยให้เกิดการใช้งานเชิงอันตราย แต่ยังล้มเหลวในการยับยั้งพฤติกรรมที่เข้าข่ายอาชญากรรมจากการสร้างสื่อเด็กถูกล่วงละเมิดทางเพศด้วย AI

หนึ่งในเหตุการณ์ที่ถูกยกขึ้นมาในเอกสารคำฟ้องคือกรณีชายคนหนึ่งในเดือนมีนาคม ซึ่งภายหลังเสียชีวิตจากการยิงตัวเอง หลังตำรวจพบว่าเขาใช้ Grok สร้างภาพลามกอนาจารเกี่ยวกับลูกเลี้ยงของตนเองมากถึง 7,000 ภาพ โดยอาศัยรูปถ่ายเพียงภาพเดียวที่ถ่ายไว้ตั้งแต่เด็กหญิงอายุ 11 ปี ข้อกล่าวหาระบุว่า Grok เปิดทางให้สร้างภาพที่รุนแรงมาก รวมถึงเนื้อหาเชิงร่วมประเวณีและการข่มขืน โดยไม่แสดงการเตือนหรือหยุดยั้งอย่างมีประสิทธิภาพ

ตามคำฟ้อง ระบบความปลอดภัยของ xAI ดูเหมือนจะเริ่มทำงานจริงจังเพียงเมื่อผู้ใช้งานพิมพ์คำสั่งที่มีคำว่า “gang rape” เท่านั้น จากนั้นจึงมีการส่ง CyberTip ไปยัง National Center for Missing and Exploited Children (NCMEC) และแจ้งต่อเจ้าหน้าที่บังคับใช้กฎหมาย ข้อเท็จจริงนี้ถูกใช้เพื่อชี้ว่าการตรวจจับของระบบอาจมาช้าเกินไป และปล่อยให้การสร้างสื่อผิดกฎหมายดำเนินต่อไปได้เป็นวงกว้างก่อนที่การแจ้งเตือนจะเกิดขึ้น

ผู้ฟ้องยังอ้างว่า AI ที่ถูกออกแบบมาในลักษณะนี้ไม่ได้เป็นเพียงความเสี่ยงเชิงเทคนิค แต่กลายเป็นโครงสร้างที่เอื้อให้ผู้กระทำผิดผลิตสื่ออนาจารเด็กและหลบเลี่ยงการตรวจสอบได้ง่ายขึ้น ประเด็นหลักของคดีจึงไม่ใช่แค่เรื่องความบกพร่องด้านความปลอดภัยของโมเดล แต่ยังรวมถึงคำถามว่าบริษัทมีหน้าที่มากเพียงใดในการเฝ้าระวัง ป้องกัน และร่วมมือกับเจ้าหน้าที่เมื่อระบบถูกใช้สร้าง CSAM

คดีนี้สะท้อนแรงกดดันที่เพิ่มขึ้นต่อบริษัท AI เชิงสนทนาและเครื่องมือสร้างภาพ ว่าจะต้องมีมาตรการกรองเนื้อหาที่เข้มงวดกว่าที่มีอยู่หรือไม่ โดยเฉพาะเมื่อเทคโนโลยีสามารถเปลี่ยนภาพถ่ายเพียงภาพเดียวให้กลายเป็นสื่อที่มีการล่วงละเมิดเด็กในรูปแบบจำนวนมหาศาลได้ กรณีนี้ยังตอกย้ำว่าประเด็น AI safety ไม่ได้จำกัดแค่ความแม่นยำของโมเดล แต่เกี่ยวข้องโดยตรงกับอาชญากรรม ความรับผิด และการคุ้มครองผู้เสียหายที่เป็นเด็ก