ดาราก็ไม่รอด: ดีปเฟก AI กับภาพปลอมบนโซเชียลเริ่มลามหนัก

บทความของ The Verge ชี้ให้เห็นปัญหาที่กำลังรุนแรงขึ้นบนแพลตฟอร์มโซเชียลมีเดีย เมื่อภาพและคอนเทนต์ที่สร้างด้วย AI สามารถสวมรอยคนดังได้แนบเนียนขึ้นเรื่อย ๆ จนผู้ใช้ทั่วไปแยกไม่ออกว่าของจริงหรือของปลอม กรณีที่ยกขึ้นมาเป็นตัวอย่างคือโพสต์อินสตาแกรมที่อ้างว่าเป็นภาพของนักแสดง Mia Goth หลังมีข่าวหย่า โดยภาพดังกล่าวถูกออกแบบให้ดูเหมือนโพสต์จากบัญชีที่มีผู้ติดตามจำนวนมากและมีเครื่องหมายยืนยันตัวตน ทำให้มีความน่าเชื่อถือในสายตาคนจำนวนไม่น้อย

ประเด็นสำคัญของเรื่องนี้คือความเปราะบางของระบบการยืนยันตัวตนและการกระจายคอนเทนต์บนแพลตฟอร์ม เมื่อบัญชีปลอมหรือคอนเทนต์ที่สร้างด้วย AI สามารถใช้ภาพลักษณ์ของบุคคลมีชื่อเสียงเพื่อสร้างกระแส มีโอกาสสูงที่จะทำให้ผู้ใช้เข้าใจผิด และเกิดการแชร์ต่ออย่างรวดเร็วโดยไม่ตรวจสอบต้นทาง บทความสะท้อนว่าปัญหาไม่ได้จำกัดแค่การล้อเลียนหรือคอนเทนต์ขำขันอีกต่อไป แต่เริ่มแตะเรื่องความน่าเชื่อถือของข้อมูลและชื่อเสียงของบุคคลจริง

The Verge ยังชี้ว่าความเสี่ยงของดีปเฟกไม่ได้มีแค่กับดาราระดับโลก แต่สามารถกระทบใครก็ตามที่มีตัวตนสาธารณะบนโลกออนไลน์ได้ โดยเฉพาะเมื่อโมเดล AI สร้างภาพและวิดีโอมีคุณภาพดีขึ้น และเครื่องมือเผยแพร่คอนเทนต์ทำงานด้วยอัลกอริทึมที่ให้รางวัลกับสิ่งที่ชวนสนใจมากกว่าสิ่งที่ถูกต้อง ผลลัพธ์คือสภาพแวดล้อมที่คอนเทนต์ปลอมแพร่ได้เร็วกว่าเรื่องจริงในหลายกรณี

บทความสื่อถึงความท้าทายของแพลตฟอร์มอย่าง Instagram ในการจัดการคอนเทนต์สังเคราะห์ เพราะต่อให้มีสัญลักษณ์ยืนยันบัญชี ก็ไม่ได้การันตีว่าทุกโพสต์บนบัญชีนั้นมาจากเจ้าของตัวจริงทั้งหมด ความน่าเชื่อถือจึงถูกใช้เป็นอาวุธเพื่อขยายการเข้าถึงของภาพปลอม และทำให้ผู้ใช้ต้องระวังมากขึ้นเมื่อเห็นโพสต์ที่สอดคล้องกับข่าวฉาวหรือเรื่องส่วนตัวของคนดังเกินไป

โดยรวม บทความนี้ต้องการเตือนว่าความแพร่หลายของ AI-generated content กำลังเปลี่ยนวิธีที่ผู้คนรับรู้ข่าวสารและภาพลักษณ์ของบุคคลสาธารณะอย่างมีนัยสำคัญ ผู้ใช้แพลตฟอร์มจึงควรตรวจสอบแหล่งที่มาอย่างรอบคอบ ขณะที่แพลตฟอร์มเองก็ต้องเร่งพัฒนากลไกตรวจจับและกำกับคอนเทนต์ปลอมให้ทันกับเทคโนโลยีที่ก้าวหน้าอย่างรวดเร็ว