แอป AI หลายร้อยตัวแฝงฟีเจอร์ดีปเฟกเชิงเพศและความรุนแรงผ่านเข้าระบบรีวิว App Store

รายงานการสืบสวนระบุว่า มีแอป AI กว่า 400 รายการที่ผ่านการตรวจสอบของ Apple App Store และยังถูกพบใน Google Play Store ด้วย ทั้งที่ภายในแอปมีฟีเจอร์แฝงสำหรับสร้างภาพดีปเฟกเชิงเพศและความรุนแรงจากรูปถ่ายของผู้ใช้ ฟีเจอร์เหล่านี้สามารถนำไปใช้สร้างภาพลามกหรือภาพคุกคามเพื่อทำให้เหยื่ออับอายและถูกแบล็กเมลได้

แอปจำนวนมากถูกระบุว่าเชื่อมโยงกับองค์กรจีนรายเดียว ทำให้ประเด็นนี้ไม่ใช่เพียงเรื่องของแอปหลอกลวงรายย่อย แต่สะท้อนรูปแบบการปล่อยแอปเป็นเครือข่ายขนาดใหญ่ที่อาศัยช่องโหว่ของกระบวนการตรวจสอบบนแพลตฟอร์มหลักทั้งสองค่าย การที่แอปเหล่านี้ผ่านขึ้นสโตร์ได้ชี้ให้เห็นข้อจำกัดของระบบรีวิวในการตรวจจับพฤติกรรมแอบแฝง โดยเฉพาะเมื่อฟีเจอร์อันตรายอาจไม่ถูกเปิดเผยอย่างชัดเจนในคำอธิบายแอปหรือหน้าร้าน

กรณีนี้ตอกย้ำความเสี่ยงของเครื่องมือ AI ที่ถูกออกแบบให้ใช้งานง่าย แต่เปิดทางให้เกิดการละเมิดความเป็นส่วนตัวและการคุกคามทางเพศได้ในวงกว้าง ผู้ใช้ที่ดาวน์โหลดแอปเหล่านี้อาจไม่รู้ว่าภาพของตนหรือของผู้อื่นจะถูกนำไปสร้างเนื้อหาปลอมที่สร้างความเสียหายได้มากเพียงใด ขณะที่แพลตฟอร์มเองก็ถูกกดดันให้เข้มงวดขึ้นกับการคัดกรองแอปที่ใช้ AI เพื่อทำคอนเทนต์สังเคราะห์ในลักษณะเป็นอันตราย