ผู้หญิงรายที่ 4 ฟ้อง xAI กล่าวหา Grok สร้างภาพ CSAM จากรูปวัยเด็ก

มีรายงานว่าเกิดคดีความใหม่ที่มุ่งเป้าไปยัง xAI โดยมีผู้ร้องเรียนรายที่ 4 เข้าร่วมกล่าวหาว่าแชตบอต Grok ถูกนำไปใช้สร้างเนื้อหาละเมิดทางเพศเด็ก หรือ CSAM จากภาพถ่ายในวัยเด็กของเธอ คดีนี้สะท้อนความกังวลที่เพิ่มขึ้นเกี่ยวกับความสามารถของระบบ AI ในการสร้างหรือดัดแปลงภาพในทางที่ผิด แม้ต้นทางของข้อมูลจะมาจากภาพส่วนตัวของบุคคลจริงก็ตาม

ประเด็นสำคัญของข้อกล่าวหาคือ ไม่ได้เป็นเพียงคำถามเรื่องการตอบสนองของโมเดลต่อคำสั่งผู้ใช้เท่านั้น แต่ยังโยงไปถึงความรับผิดชอบของผู้พัฒนาแพลตฟอร์มว่าได้วางมาตรการป้องกันการใช้งานเชิงละเมิดมากเพียงใด หากข้อกล่าวหานี้เดินหน้าไปได้ อาจกลายเป็นอีกหนึ่งกรณีตัวอย่างที่ศาลต้องพิจารณาว่า AI ที่สร้างภาพหรือข้อความควรถูกควบคุมและตรวจสอบในระดับใดเมื่อมีความเสี่ยงต่ออาชญากรรมทางเพศและการคุกคามผู้เสียหายจริง

สำหรับ xAI และ Grok คดีนี้น่าจะเพิ่มแรงกดดันด้านชื่อเสียงและการกำกับดูแลอย่างมีนัยสำคัญ เพราะประเด็น CSAM เป็นหมวดความผิดที่มีความอ่อนไหวสูงที่สุดหมวดหนึ่งในโลกออนไลน์ การถูกกล่าวหาว่าเอื้อให้เกิดเนื้อหาเช่นนี้ย่อมกระทบต่อความเชื่อมั่นของผู้ใช้ นักลงทุน และหน่วยงานกำกับดูแล โดยเฉพาะในช่วงที่อุตสาหกรรม AI กำลังเผชิญคำถามเรื่องความปลอดภัย การกรองเนื้อหา และการป้องกันการนำโมเดลไปใช้ในทางที่ผิด

โดยรวมแล้ว รายงานชิ้นนี้เป็นอีกสัญญาณว่าการนำ AI ไปสร้างสื่อสังเคราะห์ไม่ได้มีเพียงประเด็นด้านประสิทธิภาพหรือความสร้างสรรค์ แต่ยังพาไปสู่ข้อถกเถียงทางกฎหมายและจริยธรรมที่รุนแรงมากขึ้น หากข้อกล่าวหามีน้ำหนัก คดีนี้อาจมีผลต่อมาตรฐานการออกแบบระบบป้องกันของแพลตฟอร์ม AI ในอนาคต รวมถึงวิธีที่บริษัทเทคโนโลยีต้องรับมือเมื่อเครื่องมือของตนถูกใช้สร้างเนื้อหาที่เป็นอันตรายต่อผู้เสียหายโดยตรง