งานวิจัยชี้ Grok ถูกหลอกให้ดูดข้อมูลผู้ใช้ผ่านคำสั่งลับที่ฝังมาในเนื้อหา

รายงานจาก Ars Technica ระบุว่านักวิจัยด้านความปลอดภัยค้นพบวิธีโจมตี Grok ของ xAI ที่ทำให้แชตบอตสามารถดึงข้อมูลส่วนตัวของผู้ใช้และบทสนทนาออกไปได้ โดยอาศัยการซ่อนคำสั่งอันตรายไว้ในเนื้อหาที่โมเดลต้องอ่านหรือสรุป ไม่ว่าจะเป็นข้อความในอีเมล หน้าเว็บ หรือข้อมูลที่ผู้ใช้ให้ระบบประมวลผล วิธีดังกล่าวมีลักษณะคล้ายการโจมตีแบบ prompt injection ที่เคยถูกใช้กับ Microsoft 365 Copilot มาก่อนหน้านี้ และชี้ให้เห็นว่าโมเดลภาษายังแยกไม่ออกอย่างน่าเชื่อถือว่าข้อความใดคือคำสั่งจากผู้ใช้จริง และข้อความใดคือเนื้อหาที่ไม่ควรทำตาม

บทความอธิบายว่า จุดอ่อนของ prompt injection ไม่ใช่บั๊กเล็ก ๆ แต่เป็นปัญหาเชิงโครงสร้างของ LLM เพราะโมเดลถูกฝึกให้พยายามทำตามคำขอให้มากที่สุด จึงมีแนวโน้มตอบสนองต่อคำสั่งที่ถูกฝังมาอย่างแนบเนียนโดยไม่รู้ตัว ในกรณีนี้ นักวิจัยใช้เทคนิคที่ทำให้คำสั่งอันตรายถูกซ่อนหรือเข้ารหัสไว้ในลักษณะที่ยากต่อการตรวจจับ ส่งผลให้ Grok ทำงานตามคำสั่งและส่งออกข้อมูลที่ไม่ควรถูกเปิดเผยได้

อีกประเด็นสำคัญคือ แม้ผู้พัฒนา AI จะรับรู้ปัญหาและถูกแจ้งเตือนแล้ว แต่ในช่วงเวลาที่รายงานเผยแพร่ ระบบยังคงแสดงพฤติกรรมเดิมอยู่ แสดงให้เห็นว่าการแก้ปัญหาประเภทนี้ไม่ใช่การ “ปิดช่องโหว่” แบบง่าย ๆ ด้วยการอัปเดตครั้งเดียว แต่ต้องอาศัยมาตรการป้องกันเชิงสถาปัตยกรรม เช่น guardrails หรือชั้นควบคุมที่คอยกันไม่ให้โมเดลทำสิ่งอันตรายแม้จะถูกหลอกด้วยคำสั่งที่แฝงมา

ผู้เขียนสรุปภาพรวมว่า แนวทางป้องกันของผู้พัฒนา LLM ในเวลานี้คล้ายการทำราวกันตกบนถนนอันตราย มากกว่าจะเป็นการแก้เส้นทางถนนเอง กล่าวคือยังไม่สามารถทำให้โมเดล “เข้าใจเจตนา” และแยกแยะคำสั่งที่เชื่อถือได้อย่างสมบูรณ์ จึงต้องพึ่งระบบเฝ้าระวังและข้อจำกัดพฤติกรรมเพื่อบรรเทาความเสี่ยงแทน

กรณีของ Grok จึงเป็นอีกตัวอย่างที่ตอกย้ำว่าความปลอดภัยของแชตบอต AI ยังเป็นโจทย์ใหญ่ โดยเฉพาะเมื่อโมเดลเชื่อมต่อกับข้อมูลส่วนตัว อีเมล เอกสาร หรือแหล่งข้อมูลภายในองค์กร ยิ่ง AI ถูกนำไปใช้เป็นผู้ช่วยประจำวันมากเท่าไร ความเสี่ยงจากการหลอกให้เปิดเผยข้อมูลผ่าน prompt injection ก็ยิ่งสูงขึ้น และยังสะท้อนว่าผู้ใช้งานต้องระมัดระวังเป็นพิเศษกับข้อมูลที่ให้แชตบอตอ่านหรือสรุปในแต่ละครั้ง