Meta ถูกจี้ปล่อยโฆษณาแอป AI ที่ดัดแปลงภาพเด็กเป็นสื่อลามกบน Facebook และ Instagram

รายงานการสืบสวนของ Tech Transparency Project (TTP) ระบุว่า Meta ใช้เวลาหลายวันกว่าจะลบโฆษณาบน Facebook และ Instagram ที่มีเนื้อหาเข้าข่ายสื่อการล่วงละเมิดทางเพศเด็กที่สร้างด้วย AI (CSAM) โดยในปีนี้ TTP พบโฆษณาลักษณะดังกล่าวแล้ว 332 ชิ้น และเชื่อว่าระบบตรวจจับของ Meta ไม่สามารถคัดกรองได้อย่างมีประสิทธิภาพ

ตามรายงาน โฆษณาส่วนใหญ่ไม่ได้มาจากผู้พัฒนาหรือบริการในสหรัฐฯ แต่เป็นการโปรโมตแอป AI จากจีนจำนวนมาก รวมถึงกลุ่มแอปที่เรียกว่า “nudify” ซึ่งออกแบบมาเพื่อให้ผู้ใช้ดัดแปลงภาพถ่ายธรรมดาให้กลายเป็นภาพลามกโดยอาศัย AI เครื่องมือเหล่านี้ถูกมองว่าเป็นช่องทางใหม่ที่เอื้อให้ผู้ไม่หวังดีสร้างเนื้อหาทำร้ายเด็กได้ง่ายขึ้นและแพร่กระจายบนแพลตฟอร์มโซเชียลขนาดใหญ่

สิ่งที่น่ากังวลเป็นพิเศษคือ TTP พบว่าโฆษณาหลายชิ้นใช้ภาพเด็กจริงจากโลกออนไลน์เป็นต้นทาง ไม่ว่าจะเป็นภาพข่าวของสมาชิกอายุน้อยในราชวงศ์ยุโรป หรือภาพจากบัญชี Instagram ของเด็กหญิงวัยก่อนวัยรุ่นที่มีผู้ติดตามจำนวนมาก ภาพเหล่านี้ถูกนำไปดัดแปลงด้วย AI ให้กลายเป็นวิดีโอเชิงลามกอย่างโจ่งแจ้ง โดย TTP ระบุว่าการกระทำลักษณะนี้สอดคล้องกับกฎหมายสหรัฐฯ ที่ถือว่า AI CSAM มีความร้ายแรงไม่ต่างจาก CSAM แบบดั้งเดิม

ตัวอย่างที่ยกในรายงานแสดงให้เห็นว่าโฆษณาไม่ได้เพียงสื่อสารเชิงขายของ แต่กลับใช้ภาพเด็กจริงเป็นวัตถุดิบในการสร้างเนื้อหาทางเพศที่โจมตีและละเมิดเหยื่อโดยตรง หนึ่งกรณีเป็นภาพเด็กหญิงวัย 14 ปีในชุดยูนิฟอร์มของสโมสรกีฬา อีกกรณีคือชุดภาพสต็อกของเด็กก่อนวัยรุ่นที่ถูกแปลงเป็นฉากล่วงละเมิดทางเพศอย่างน่าสะเทือนใจ รายงานชี้ว่าเนื้อหาเหล่านี้อาจทำให้เกิดอันตรายซ้ำซ้อน ทั้งต่อเด็กที่เป็นเจ้าของภาพและต่อการทำให้การผลิต CSAM ด้วย AI เป็นเรื่องเข้าถึงง่าย

กรณีนี้สะท้อนแรงกดดันที่เพิ่มขึ้นต่อแพลตฟอร์มโซเชียลมีเดียในการคุมโฆษณาที่ใช้ AI ในทางผิดกฎหมายและผิดจริยธรรม แม้ Meta จะมีนโยบายห้ามเนื้อหาเช่นนี้ แต่รายงานของ TTP ชี้ว่าการบังคับใช้นโยบายและการตรวจจับอัตโนมัติยังมีช่องโหว่สำคัญ ทำให้โฆษณาอันตรายสามารถขึ้นระบบและเข้าถึงผู้ใช้จำนวนมากได้ก่อนถูกลบ