ซานฟรานซิสโกสั่ง Apple-Google จัดการแอป “nudify” บนสโตร์

อัยการเมืองซานฟรานซิสโกได้ส่งหนังสือแจ้งเตือนไปยัง Apple และ Google ให้เร่งดำเนินการกับแอปประเภท “nudify” ที่ใช้เอไอสร้างภาพลักษณะเปลือยหรืออนาจารจากรูปถ่ายของผู้ใช้ โดยมองว่าแอปกลุ่มนี้มีความเสี่ยงสูงต่อการละเมิดสิทธิ ความเป็นส่วนตัว และอาจถูกนำไปใช้คุกคามเหยื่อได้

รายงานระบุว่ามีแอปทั้งหมด 13 รายการที่ถูกระบุชื่ออยู่ในจดหมายเรียกร้องดังกล่าว กระจายอยู่บนทั้ง App Store และ Google Play ซึ่งสะท้อนว่าแพลตฟอร์มกระจายแอปขนาดใหญ่ยังคงเป็นช่องทางหลักที่ทำให้บริการลักษณะนี้เข้าถึงผู้ใช้งานได้ในวงกว้าง แม้จะมีข้อกังวลด้านจริยธรรมและความปลอดภัยมานาน

สาระสำคัญของแรงกดดันครั้งนี้คือการผลักให้สองบริษัทเจ้าของสโตร์ต้องรับผิดชอบมากขึ้นในการคัดกรองและนำแอปที่เข้าข่ายออกจากระบบจำหน่าย โดยเฉพาะเมื่อเครื่องมือเอไอที่สร้างภาพปลอมหรือสื่อเชิงล่วงละเมิดกำลังแพร่หลายและเข้าถึงได้ง่ายขึ้น ผู้กำกับดูแลมองว่าไม่ควรปล่อยให้แอปประเภทนี้ดำเนินธุรกิจบนแพลตฟอร์มหลักต่อไปโดยไม่มีการจัดการที่เข้มงวด

กรณีนี้ยังสะท้อนแนวโน้มกว้างในอุตสาหกรรมเทคโนโลยีที่หน่วยงานรัฐเริ่มจับตาการใช้งานเอไอเชิงเสี่ยงมากขึ้น ไม่ใช่แค่ในมิติของเนื้อหาปลอมและความบิดเบือนข้อมูล แต่รวมถึงการนำไปใช้ละเมิดศักดิ์ศรีของบุคคลด้วย ผลลัพธ์ของการดำเนินการจาก Apple และ Google จึงอาจกลายเป็นบรรทัดฐานสำคัญต่อการกำกับดูแลแอปเอไอประเภทนี้ในอนาคต