ลายลวงตาเชิงอัลกอริทึมช่วยหลบการตรวจจับของกล้องวงจรปิด

นักวิจัยด้านความปลอดภัยได้พัฒนาอัลกอริทึมที่สร้าง “ลวดลายเชิงปฏิปักษ์” บนคอมพิวเตอร์ ซึ่งสามารถทำให้ระบบตรวจจับภาพจากกล้องเฝ้าระวังมองไม่เห็นเป้าหมายได้ในบางกรณี โดยเทคนิคนี้ออกแบบมาเพื่อรบกวนโมเดลคอมพิวเตอร์วิทัศน์ที่ใช้ตรวจจับคน ใบหน้า และยานพาหนะให้ประมวลผลผิดพลาดหรือไม่พบวัตถุที่ต้องการ

ประเด็นสำคัญของงานวิจัยคือการนำแนวคิด adversarial pattern มาใช้กับสถานการณ์จริง ไม่ได้จำกัดอยู่แค่การหลอกโมเดลในสภาพแวดล้อมทดลองเท่านั้น แต่เป็นการสร้างลวดลายที่สามารถนำไปแสดงผลหรือวางบนพื้นผิวบางชนิดเพื่อทำให้ระบบตรวจจับอัตโนมัติสับสน แนวทางนี้สะท้อนให้เห็นว่าโมเดล AI ที่ใช้งานด้านความปลอดภัยยังมีช่องโหว่ต่อการโจมตีเชิงภาพ แม้จะทำงานได้ดีในสภาวะทั่วไปก็ตาม

แม้เทคนิคดังกล่าวอาจถูกพัฒนาเพื่อศึกษาจุดอ่อนของระบบรักษาความปลอดภัยและช่วยปรับปรุงความทนทานของโมเดลในอนาคต แต่ก็เปิดคำถามด้านจริยธรรมและการใช้งานในทางที่ผิด เพราะเครื่องมือที่ช่วยหลบการเฝ้าระวังอาจถูกนำไปใช้เพื่อหลีกเลี่ยงการตรวจจับในพื้นที่สาธารณะหรือสถานที่ที่มีการควบคุมเข้มงวดได้เช่นกัน

โดยรวมแล้ว ข่าวนี้ชี้ให้เห็นว่าการแข่งขันระหว่างระบบตรวจจับด้วย AI กับเทคนิคหลบหลีกยังดำเนินต่อไป และย้ำว่าการพัฒนาโมเดลคอมพิวเตอร์วิทัศน์ให้ปลอดภัยและแข็งแรงต่อการโจมตีแบบ adversarial เป็นโจทย์สำคัญของอุตสาหกรรมความปลอดภัยและ AI ในระยะต่อไป