นักวิจัยพบช่องโหว่ให้แฮกเกอร์ใช้เครื่องมือ AI ยอดนิยม 9 ตัว สร้างบอตเน็ตขนาดใหญ่
รายงานจาก Ars Technica ชี้ให้เห็นถึงภัยคุกคามที่กำลังเติบโตในวงการความปลอดภัยของ AI นั่นคือการโจมตีแบบ Prompt Injection ซึ่งใช้ประโยชน์จากข้อจำกัดพื้นฐานของโมเดลภาษาขนาดใหญ่ (LLM) ที่ไม่สามารถแยกแยะ…
รายงานจาก Ars Technica ชี้ให้เห็นถึงภัยคุกคามที่กำลังเติบโตในวงการความปลอดภัยของ AI นั่นคือการโจมตีแบบ Prompt Injection ซึ่งใช้ประโยชน์จากข้อจำกัดพื้นฐานของโมเดลภาษาขนาดใหญ่ (LLM) ที่ไม่สามารถแยกแยะระหว่างคำสั่งที่ผู้ใช้ป้อนอย่างถูกต้อง กับคำสั่งอันตรายที่ถูกซ่อนไว้ในอีเมล โค้ดโปรแกรม หรือเนื้อหาจากบุคคลที่สามอื่น ๆ ที่โมเดลต้องประมวลผล ทำให้แฮกเกอร์สามารถแทรกคำสั่งอันตรายเข้าไปโดยที่ AI จะปฏิบัติตามโดยไม่รู้ตัว
ที่ผ่านมาการโจมตีลักษณะนี้ส่วนใหญ่เป็นแบบ “push” คือผู้โจมตีต้องเจาะจงเป้าหมายทีละราย เช่น การฝังคำสั่งอันตรายไว้ในอีเมลหรือคำเชิญปฏิทินของเหยื่อแต่ละคน ซึ่งข้อจำกัดนี้ทำให้ขนาดของการโจมตีมีจำกัด ไม่สามารถขยายวงกว้างในระดับอินเทอร์เน็ตได้ง่าย
อย่างไรก็ตาม รายงานฉบับนี้ชี้ว่านักวิจัยด้านความปลอดภัยพบวิธีการใหม่ที่อาจเปลี่ยนสมการดังกล่าว โดยสามารถใช้เครื่องมือ AI ยอดนิยมถึง 9 ตัวเป็นฐานในการประกอบสร้างเครือข่ายบอตเน็ตขนาดใหญ่ ซึ่งต่างจากรูปแบบเดิมที่ต้องโจมตีทีละเป้าหมาย การโจมตีรูปแบบใหม่นี้อาจเปิดช่องให้แฮกเกอร์สามารถแพร่กระจายคำสั่งอันตรายในวงกว้างและอัตโนมัติมากขึ้น ทำให้เกิดความเสี่ยงต่อระบบ AI จำนวนมากพร้อมกัน
ปัญหาสำคัญคือผู้พัฒนาระบบ AI ยังไม่มีวิธีบังคับใช้เส้นแบ่งที่ชัดเจนระหว่างแหล่งข้อมูลที่เชื่อถือได้กับแหล่งข้อมูลที่ไม่น่าเชื่อถือ ทำให้ต้องพึ่งพา “guardrails” หรือมาตรการป้องกันแบบปะผุเพื่อบรรเทาความเสียหาย แทนที่จะแก้ไขที่ต้นตอของปัญหาอย่างแท้จริง ซึ่งผู้เชี่ยวชาญเตือนว่าหากไม่มีการแก้ไขเชิงโครงสร้าง ภัยคุกคามลักษณะนี้จะยิ่งขยายตัวและอันตรายมากขึ้นเมื่อ AI ถูกนำไปใช้งานอย่างแพร่หลาย
