นักวิจัยใช้พิมพ์คำสั่งหลอก LLM เพื่อหยุดแฮ็กเกอร์ AI

งานวิจัยด้านความมั่นคงปลอดภัยล่าสุดชี้ว่าเทคนิค “prompt injection” ซึ่งเดิมถูกมองเป็นอาวุธของผู้โจมตี กำลังถูกนำมาใช้เป็นเครื่องมือป้องกันด้วยเช่นกัน โดยนักวิจัยจาก Tracebit ระบุว่า เมื่อใส่ข้อความลักษณะคำสั่งแฝงไว้ใกล้ข้อมูลอ่อนไหว เช่น รหัสผ่านหรือคีย์เข้ารหัสที่เก็บอยู่บน Amazon Web Services ก็สามารถทำให้เอเจนต์ AI ที่ถูกใช้โจมตีหยุดทำงานหรือยุติภารกิจได้ในหลายกรณี

ประเด็นสำคัญคือ เอเจนต์ LLM ที่ทำหน้าที่โจมตีมักถูกออกแบบให้ทำงานอัตโนมัติและพยายามเจาะข้อมูลตามเป้าหมาย แต่ก็ยังพึ่งพาโมเดลภาษาที่ตอบสนองต่อข้อความภายนอกได้ วิธีป้องกันแบบใหม่จึงใช้ “คำสั่งหลอก” ไปกระตุ้นให้โมเดลทำสิ่งที่ขัดกับข้อจำกัดด้านความปลอดภัยของมันเอง ส่งผลให้ตัวเอเจนต์หยุดดำเนินการแทนที่จะดำเนินการโจมตีต่อ

แนวทางนี้สะท้อนให้เห็นการแข่งขันเชิงเทคนิคที่เกิดขึ้นรอบ LLM security จากเดิมที่ prompt injection ถูกใช้เพื่อบิดพฤติกรรมของระบบ AI ให้รั่วไหลข้อมูลหรือทำงานผิดเป้าหมาย ตอนนี้ฝ่ายป้องกันกำลังใช้กลไกเดียวกันเพื่อสร้าง “กับดัก” ภายในสภาพแวดล้อมของระบบ เช่น ข้อมูลลวงหรือข้อความที่ออกแบบมาเฉพาะ เพื่อทำให้เครื่องมือโจมตีที่ใช้ AI สับสนหรือหยุดเอง

แม้จะเป็นวิธีที่ดูเรียบง่าย แต่ผลลัพธ์ที่ Tracebit รายงานบ่งชี้ว่าเทคนิคดังกล่าวอาจมีประโยชน์ในโลกจริง โดยเฉพาะเมื่อต้องรับมือกับ AI hacking agents ที่ทำงานแบบอัตโนมัติและพยายามกวาดข้อมูลจากระบบคลาวด์หรือสภาพแวดล้อมองค์กร อย่างไรก็ดี วิธีนี้ไม่ใช่คำตอบสุดท้ายของปัญหา เพราะยังขึ้นอยู่กับพฤติกรรมของโมเดล เงื่อนไขการฝังข้อความ และระดับการป้องกันอื่น ๆ ที่มีอยู่แล้ว

ภาพรวมของเรื่องนี้คือ ความปลอดภัยของ AI กำลังพัฒนาไปสู่การใช้พฤติกรรมของโมเดลเป็นทั้งช่องโหว่และเครื่องมือป้องกันในเวลาเดียวกัน สำหรับองค์กรที่ใช้ LLM หรือเอเจนต์ AI ในงานด้านความปลอดภัย คลาวด์ และอัตโนมัติ การออกแบบสภาพแวดล้อมให้มี “สัญญาณหลอก” หรือข้อความที่จงใจวางไว้ อาจกลายเป็นอีกชั้นหนึ่งของการป้องกันที่ต้องพิจารณาในอนาคต