แอปของ Meta พบโฆษณาที่มีสื่อ CSAM สร้างด้วย AI

นักวิจัยเปิดเผยว่าแพลตฟอร์มของ Meta มีการแสดงโฆษณาจำนวนมากที่ละเมิดนโยบายเกี่ยวกับสื่อการล่วงละเมิดทางเพศเด็ก โดยพบมากกว่า 50 ชิ้นบนบริการของบริษัทเอง รายงานดังกล่าวสะท้อนปัญหาการคัดกรองโฆษณาและการกำกับดูแลเนื้อหาที่ไม่ทันต่อรูปแบบสื่อสังเคราะห์ซึ่งสร้างด้วย AI

ประเด็นสำคัญคือเนื้อหาในโฆษณาเหล่านี้เกี่ยวข้องกับ CSAM ในรูปแบบที่ถูกสร้างหรือดัดแปลงด้วยเทคโนโลยี AI ทำให้ไม่ใช่เพียงปัญหาเนื้อหาผิดกฎแบบเดิม แต่เป็นสัญญาณว่าเครื่องมือป้องกันของแพลตฟอร์มยังรับมือกับสื่อสังเคราะห์ได้ไม่ดีพอ แม้บริษัทจะมีนโยบายห้ามเนื้อหาประเภทนี้อย่างชัดเจนก็ตาม

กรณีนี้ยิ่งสร้างแรงกดดันต่อ Meta ในฐานะแพลตฟอร์มโฆษณาขนาดใหญ่ เพราะโฆษณาเป็นช่องทางที่เข้าถึงผู้ใช้จำนวนมากและมักถูกมองว่าได้รับการตรวจสอบก่อนเผยแพร่ในระดับหนึ่ง การที่โฆษณาที่มีเนื้อหาละเมิดร้ายแรงยังปรากฏได้ แสดงถึงช่องโหว่ทั้งในระบบตรวจจับอัตโนมัติ กระบวนการอนุมัติโฆษณา และการติดตามหลังการเผยแพร่

นอกจากนี้ เหตุการณ์นี้ยังตอกย้ำความท้าทายที่อุตสาหกรรมเทคโนโลยีกำลังเผชิญ เมื่อ AI ทำให้การสร้างเนื้อหาที่หลอกตาและผิดกฎหมายทำได้ง่ายขึ้น ขณะที่แพลตฟอร์มต้องเร่งพัฒนานโยบาย เครื่องมือคัดกรอง และการบังคับใช้กฎให้ตามทันความเสี่ยงรูปแบบใหม่ โดยเฉพาะในประเด็นที่เกี่ยวข้องกับความปลอดภัยของเด็กซึ่งเป็นเรื่องอ่อนไหวสูงสุด

โดยรวมแล้ว รายงานนี้ไม่เพียงชี้ถึงความบกพร่องในการดูแลโฆษณาบนบริการของ Meta แต่ยังสะท้อนแรงกดดันต่อแพลตฟอร์มโซเชียลทั้งหมดให้ยกระดับการตรวจจับเนื้อหาที่สร้างด้วย AI และจัดการกับการละเมิดที่มีความร้ายแรงมากขึ้นอย่างจริงจัง