ซานฟรานซิสโกสั่งกดดัน Apple ลบแอป AI ลับภาพแต่งตัวออกจาก App Store

อัยการเมืองซานฟรานซิสโก เดวิด ชิว ได้ส่งหนังสือคำสั่งให้หยุดและเลิกทำไปยัง Apple และ Google เพื่อกดดันให้ถอดแอปประเภท “nudify” ออกจากร้านแอปของทั้งสองบริษัท โดยมองว่าแอปเหล่านี้ใช้ AI สร้างภาพลักษณะถอดเสื้อผ้าหรือเปลี่ยนภาพบุคคลโดยไม่ได้รับความยินยอม ซึ่งเข้าข่ายละเมิดสิทธิและเสี่ยงต่อการนำไปใช้คุกคามผู้อื่น โดยเฉพาะผู้หญิงและเยาวชน

ประเด็นนี้สะท้อนความกังวลที่เพิ่มขึ้นต่อเครื่องมือ AI ที่เอื้อให้เกิดการสร้างสื่อหลอกลวงหรือคุกคามทางเพศได้ง่ายขึ้น แม้จะถูกนำเสนอในรูปแบบแอปทั่วไปก็ตาม ผู้ตรวจสอบของเมืองระบุว่าปัญหาไม่ได้อยู่แค่ตัวเทคโนโลยี แต่รวมถึงการวางจำหน่าย การค้นหา และการเข้าถึงผ่านแพลตฟอร์มขนาดใหญ่ที่ยังเปิดทางให้แอปเหล่านี้เผยแพร่ได้

ในรายงานระบุว่ามีแอปเป้าหมายหลายรายการที่ถูกเรียกร้องให้ลบออกจาก App Store และ Google Play ซึ่งสะท้อนว่าเจ้าหน้าที่มองว่าแพลตฟอร์มทั้งสองมีหน้าที่รับผิดชอบในการคัดกรองผลิตภัณฑ์ที่ใช้ AI ในทางละเมิด ไม่ใช่เพียงปล่อยให้ผู้ใช้ปลายทางรับผลกระทบเพียงฝ่ายเดียว

แรงกดดันครั้งนี้อาจเชื่อมโยงไปสู่คำถามเรื่องการกำกับดูแลแอป AI อย่างเข้มงวดขึ้น ทั้งในมิติความปลอดภัยของผู้ใช้ มาตรฐานการตรวจสอบเนื้อหา และความรับผิดของแพลตฟอร์มเมื่อลงรายการเครื่องมือที่เอื้อการคุกคามหรือสวมรอยบุคคลจริง หากคำขอนี้เดินหน้าได้สำเร็จ อาจกลายเป็นตัวอย่างของการใช้กฎหมายท้องถิ่นเข้ามาจัดการปัญหา AI ที่แพร่กระจายผ่านตลาดแอปทั่วโลก