ระบบตรวจจับดีปเฟกของ Google ถูกใช้หักล้างภาพปลอมของ Mitch McConnell

ภาพที่ถูกเผยแพร่ออกมาเมื่อต้นสัปดาห์ซึ่งอ้างว่าเป็นวุฒิสมาชิกสหรัฐ Mitch McConnell นอนอยู่บนเตียงในโรงพยาบาล สวมสายระโยงระยางและอยู่ในสภาพวิกฤต ได้กลายเป็นตัวอย่างล่าสุดของเนื้อหาปลอมที่สร้างด้วย AI ซึ่งสามารถหลอกผู้คนได้ในช่วงแรก ก่อนจะถูกตรวจสอบและเปิดโปงในเวลาต่อมา

รายงานชี้ว่าภาพดังกล่าวไม่ได้เป็นภาพถ่ายจริง แต่เป็นภาพที่สร้างขึ้นด้วยเครื่องมือ generative AI และได้รับการตรวจจับโดยระบบวิเคราะห์ของ Google ที่ออกแบบมาเพื่อระบุร่องรอยของสื่อสังเคราะห์หรือดีปเฟก ความสามารถของเครื่องมือลักษณะนี้กำลังมีความสำคัญมากขึ้นเมื่อภาพปลอมมีความสมจริงสูงและแพร่กระจายได้รวดเร็วผ่านโซเชียลมีเดีย

กรณีนี้สะท้อนให้เห็นทั้งความก้าวหน้าของเทคโนโลยีสร้างภาพ และปัญหาด้านความน่าเชื่อถือของข้อมูลในยุคที่เนื้อหา AI สามารถถูกนำมาใช้บิดเบือนข้อเท็จจริงทางการเมืองได้อย่างง่ายดาย แม้ภาพจะดูน่าเชื่อ แต่การตรวจสอบเชิงเทคนิคและการยืนยันจากแหล่งข้อมูลที่เชื่อถือได้ยังคงเป็นขั้นตอนสำคัญในการแยกแยะความจริงออกจากการหลอกลวง

สำหรับ Google เหตุการณ์นี้ยังตอกย้ำบทบาทของเครื่องมือตรวจจับสื่อสังเคราะห์ในระบบนิเวศข้อมูลสมัยใหม่ ซึ่งไม่ได้มีไว้แค่จับภาพปลอมเท่านั้น แต่ยังช่วยสนับสนุนการตรวจสอบข้อเท็จจริงของสื่อและแพลตฟอร์มต่าง ๆ ในช่วงที่ดีปเฟกกลายเป็นความเสี่ยงระดับสังคมมากขึ้น