xAI ฟ้องผู้ใช้ Grok หลังถูกกล่าวหานำไปสร้างภาพลามกเด็กปลอม

xAI บริษัทปัญญาประดิษฐ์ของอีลอน มัสก์ ยื่นฟ้องชายคนหนึ่งในรัฐเซาท์แคโรไลนาที่ถูกกล่าวหาว่าใช้แชตบอต Grok เพื่อสร้างและดัดแปลงสื่อที่เข้าข่ายลามกอนาจารเด็ก โดยคดีนี้ถูกเปิดเผยหลังมีรายงานจาก Reuters ว่าบริษัทมองว่าการใช้งานดังกล่าวเป็นการจงใจหลบเลี่ยงมาตรการป้องกันของระบบ และฝ่าฝืนนโยบายการใช้งานของบริษัท

ผู้ถูกฟ้องคือ Terry Wayne Harwood ซึ่งก่อนหน้านี้ถูกจับกุมในเดือนกุมภาพันธ์จากข้อกล่าวหาเกี่ยวกับการครอบครองและเผยแพร่ CSAM และกำลังเผชิญข้อหาหนักหลายกระทง xAI ระบุว่าอย่างน้อยบางส่วนของภาพที่เชื่อมโยงกับคดีอาญาของ Harwood ถูกสร้างหรือแก้ไขด้วย Grok ทำให้บริษัทพยายามแยกตัวออกจากการใช้งานในทางผิดกฎหมายและชี้ว่าเหตุการณ์นี้ไม่ใช่เพียงการใช้เครื่องมือ AI ทั่วไป แต่เป็นการใช้แบบจงใจเจาะระบบ

คดีนี้สะท้อนความท้าทายที่บริษัท AI ต้องเผชิญในการป้องกันการนำโมเดลไปใช้สร้างเนื้อหาที่ผิดกฎหมาย โดยเฉพาะเมื่อผู้ใช้พยายามหลีกเลี่ยงข้อจำกัดที่ฝังอยู่ในระบบ หากข้อกล่าวหาของ xAI เป็นจริง กรณีนี้อาจกลายเป็นตัวอย่างสำคัญของการที่ผู้พัฒนา AI เดินหน้าใช้มาตรการทางกฎหมายเพื่อเอาผิดผู้ใช้งานที่นำเครื่องมือไปใช้สร้างสื่ออนาจารเด็กและภาพปลอมที่เกี่ยวข้องกับการละเมิดทางเพศ