ซานฟรานซิสโกสั่ง Apple-Google ถอนแอป AI เปลือยจากสโตร์

สำนักงานอัยการของซานฟรานซิสโกภายใต้การนำของ David Chiu ส่งจดหมายเตือนและคำสั่งให้หยุดการกระทำไปยัง Apple และ Google โดยเรียกร้องให้ทั้งสองบริษัทนำแอปประเภท “nudification” หรือแอปที่ใช้ AI เปลี่ยนภาพคนจริงให้กลายเป็นภาพลามก ออกจากร้านแอปของตน โดยประเด็นนี้ถูกเปิดเผยผ่านรายงานของ Wired

แอปกลุ่มดังกล่าวถูกมองว่าเป็นเครื่องมืออันตราย เพราะสามารถนำภาพถ่ายธรรมดาของบุคคลจริงมาแก้ไขให้ดูเหมือนเปลือยหรืออยู่ในท่าทางเชิงเพศได้อย่างง่ายดาย รวมถึงการลบเสื้อผ้า เปลี่ยนลักษณะใบหน้า หรือสลับใบหน้าของเหยื่อไปอยู่บนร่างเปลือยของคนอื่น ซึ่งเพิ่มความเสี่ยงต่อการคุกคาม การละเมิดความเป็นส่วนตัว และการสร้างภาพหลอกลวงที่สร้างความเสียหายต่อเหยื่อโดยตรง

ในจดหมาย อัยการระบุว่าร้านแอปของ Apple และ Google อาจกำลังละเมิดกฎหมายของแคลิฟอร์เนียที่ห้ามการสนับสนุนบริการซึ่งมีส่วนในการสร้างภาพโป๊ปลอมแบบ deepfake ประเด็นสำคัญจึงไม่ใช่แค่ตัวแอปที่ถูกพัฒนาโดยบุคคลภายนอก แต่รวมถึงบทบาทของแพลตฟอร์มที่เป็นตัวกลางในการเผยแพร่และทำกำไรจากแอปเหล่านี้ด้วย

กรณีนี้สะท้อนแรงกดดันที่เพิ่มขึ้นต่อผู้ให้บริการแพลตฟอร์มและผู้ดูแลร้านแอป ให้รับผิดชอบต่อเครื่องมือ AI ที่ถูกนำไปใช้ในทางละเมิด โดยเฉพาะเมื่อเทคโนโลยีสร้างภาพสมจริงขึ้นเรื่อย ๆ และทำให้การผลิตสื่อปลอมที่มีลักษณะอนาจารเกิดขึ้นได้ง่ายขึ้นกว่าที่เคย

หากการเรียกร้องของซานฟรานซิสโกเดินหน้าต่อไป อาจกลายเป็นอีกหนึ่งหมุดหมายสำคัญของการกำกับดูแล AI เชิงลบและเนื้อหา deepfake ในสหรัฐฯ รวมถึงอาจเป็นแรงผลักให้แพลตฟอร์มเข้มงวดกับการคัดกรองแอปประเภทนี้มากขึ้นในอนาคต