Meta ถูกวิจารณ์หลังปล่อยโฆษณาแอป AI ชวนสร้างภาพลามกเลียนแบบนักการเมืองหญิง
Meta ถูกตั้งคำถามอีกครั้งเรื่องการคัดกรองโฆษณาบนแพลตฟอร์ม หลังมีรายงานว่าเครือข่ายโฆษณาของบริษัทปล่อยให้มีการซื้อโฆษณาของแอป AI ชื่อ Kromix ซึ่งนำเสนอเครื่องมือสร้างภาพและวิดีโอเชิงเพศแบบสังเคราะห์ และมีลักษณะชวนให้ผู้ใช้ทำคอนเทนต์ที่คล้ายบุคคลจริง โดยเฉพาะผู้หญิงและนักการเมืองหญิงในสหรัฐฯ
ตามรายงาน โฆษณาบางชิ้นใช้ถ้อยคำและภาพที่สื่อชัดว่าเครื่องมือนี้ “ไม่มีข้อจำกัด” และอ้างว่าเป็น AI ที่ผู้ชายใช้งานจริง ขณะที่คลิปหนึ่งแสดงผู้หญิงที่มีใบหน้าคล้ายบุคคลการเมืองสหรัฐฯ ยืนหน้าธงชาติ ก่อนจะตัดไปเป็นฉากที่ดูเหมือนเธอถูกทำให้กลายเป็นเนื้อหาลามก ซึ่งสะท้อนความพยายามชวนใช้เทคโนโลยีเพื่อสร้างภาพลวงที่เกี่ยวข้องกับบุคคลจริง
ประเด็นสำคัญคือสิ่งนี้ขัดกับนโยบายของ Meta เองที่ห้ามโฆษณาซึ่งมีเนื้อหาทางเพศหรือสนับสนุนการสร้างภาพลามกที่ไม่ได้รับความยินยอม แต่เหตุการณ์นี้ดูเหมือนจะเป็นอีกครั้งที่ระบบตรวจจับและบังคับใช้นโยบายของบริษัทล้มเหลว ทำให้โฆษณาเครื่องมือแนว deepfake และ nonconsensual intimate imagery หลุดรอดขึ้นแพลตฟอร์มได้
รายงานยังระบุว่า Kromix โปรโมตตัวเองเป็น “AI image styler” และเปิดให้ผู้ใช้ที่จ่ายเงินอัปโหลดรูปถ่ายเพื่อเอาไปใช้ในสถานการณ์ที่มีเนื้อหาทางเพศหรือคุกคาม เช่น ฉากที่ถูกอธิบายด้วยถ้อยคำรุนแรงอย่าง “bedroom rape” รวมถึงคอนเทนต์แฟนตาซีอื่น ๆ ที่เกี่ยวโยงกับตัวละครและเครื่องแต่งกายยอดนิยม
นอกจากนี้ แอปดังกล่าวเคยปรากฏบน App Store ของ Apple ก่อนจะมีการขอความเห็นจากสื่อ และยังมีตัวอย่างคอนเทนต์ที่สร้างภาพลามกของผู้หญิงในชุดสไปเดอร์แมนด้วย ขณะที่ผู้ติดต่อที่ระบุไว้ในแอปไม่ตอบกลับคำร้องขอให้ชี้แจง ทำให้เกิดคำถามทั้งต่อผู้ให้บริการแพลตฟอร์ม โฆษณา และการกำกับดูแลเครื่องมือ AI ที่อาจถูกนำไปใช้ละเมิดสิทธิและความยินยอมของผู้อื่น
