ซานฟรานซิสโกสั่ง Apple-Google ลบแอปสร้างภาพโป๊ปลอมจากสโตร์

อัยการเมืองซานฟรานซิสโก เดวิด ชิว ส่งจดหมายถึง Apple และ Google เพื่อกดดันให้ทั้งสองบริษัทลบแอปประเภท “nudify” ออกจาก App Store และ Google Play โดยระบุว่าแพลตฟอร์มเหล่านี้ปล่อยให้มีแอปที่เข้าข่ายละเมิดกฎหมายของรัฐมานานแล้ว

ประเด็นสำคัญของเรื่องนี้คือแอป nudify ใช้เทคโนโลยี AI หรือเครื่องมือแก้ไขภาพเพื่อสร้างหรือดัดแปลงภาพให้ดูเปลือย โดยมักถูกวิจารณ์ว่าเอื้อให้เกิดการคุกคามทางเพศ การละเมิดความเป็นส่วนตัว และการสร้างภาพลามกโดยไม่ได้รับความยินยอม ซึ่งทำให้เกิดแรงกดดันต่อผู้ให้บริการแพลตฟอร์มให้คัดกรองเนื้อหาเข้มงวดขึ้น

จดหมายของชิวสะท้อนท่าทีของหน่วยงานท้องถิ่นที่ต้องการให้บริษัทเทคโนโลยีรับผิดชอบต่อสิ่งที่เกิดขึ้นบนร้านแอปของตน ไม่ใช่เพียงอ้างว่าตนเป็นตัวกลางทางเทคนิคเท่านั้น เขามองว่า Apple และ Google ทราบถึงปัญหานี้มานาน แต่ยังปล่อยให้แอปเหล่านี้อยู่ในระบบต่อไป

สำหรับ Apple และ Google แรงกดดันครั้งนี้อาจเพิ่มความเข้มข้นของมาตรการตรวจสอบแอปที่เกี่ยวข้องกับการสร้างภาพส่อไปในทางลามก รวมถึงอาจทำให้ทั้งสองบริษัทต้องทบทวนแนวทางรับมือกับแอปที่ใช้ AI ในทางที่ละเมิดสิทธิผู้อื่นมากขึ้น

กรณีนี้ยังสะท้อนแนวโน้มกว้างในอุตสาหกรรมเทคโนโลยี ที่หน่วยงานรัฐเริ่มเข้ามามีบทบาทมากขึ้นในการควบคุมการใช้ AI เชิงสร้างสรรค์เมื่อเกิดผลกระทบต่อความปลอดภัยและศีลธรรมสาธารณะ โดยเฉพาะในบริบทของการเผยแพร่เนื้อหาทางเพศโดยไม่ได้รับความยินยอม