นักวิจัยหลอก AI Agent ของ GitHub ให้รั่วไหลข้อมูล Private Repository
ทีมนักวิจัยด้านความปลอดภัยจาก Noma Security เปิดเผยช่องโหว่ที่สามารถหลอกล่อ AI Agent ของ GitHub ให้เปิดเผยข้อมูลจาก private repository ที่ควรถูกเก็บเป็นความลับ โดยใช้เทคนิคที่เรียกว่า prompt injection ซึ่งเป็นการฝังคำสั่งอันตรายไว้ในเนื้อหาที่ AI ประมวลผล เช่น ใน issue, pull request หรือไฟล์โค้ดต่างๆ เพื่อบงการให้ AI agent ทำสิ่งที่นอกเหนือจากคำสั่งเดิมของผู้ใช้งานที่ตั้งใจไว้
การโจมตีลักษณะนี้ใช้ประโยชน์จากความสามารถของ AI agent ที่ถูกออกแบบมาให้เข้าถึงและประมวลผลข้อมูลจากหลายแหล่งภายในระบบ GitHub รวมถึง repository ที่เป็นส่วนตัว เมื่อ AI ถูกหลอกให้เชื่อว่าคำสั่งแฝงที่ฝังไว้เป็นคำสั่งที่ถูกต้อง มันอาจดึงข้อมูลลับหรือโค้ดจาก private repo แล้วส่งออกไปยังที่ที่ผู้โจมตีควบคุมได้ โดยที่เจ้าของ repository ไม่รู้ตัว
งานวิจัยนี้ชี้ให้เห็นถึงความเสี่ยงใหม่ที่มาพร้อมกับการนำ AI agent เข้ามาผนวกรวมกับเครื่องมือพัฒนาซอฟต์แวร์และแพลตฟอร์มโค้ด เนื่องจากระบบเหล่านี้มักได้รับสิทธิ์การเข้าถึงที่กว้างขวางเพื่อช่วยเหลืองานอัตโนมัติ แต่ก็เปิดช่องให้เกิดการโจมตีแบบ indirect prompt injection ที่ตรวจจับได้ยาก เนื่องจากไม่ต้องอาศัยการเจาะระบบโดยตรง แต่ใช้การหลอกล่อผ่านเนื้อหาที่ AI ประมวลผลตามปกติ
การค้นพบนี้เป็นสัญญาณเตือนให้บริษัทเทคโนโลยีและนักพัฒนาต้องพิจารณาอย่างรอบคอบเรื่องการกำหนดสิทธิ์การเข้าถึงของ AI agent การตรวจสอบและกรองข้อมูลนำเข้าที่อาจมีคำสั่งแฝง รวมถึงการออกแบบระบบป้องกันเพิ่มเติมเพื่อลดความเสี่ยงที่ข้อมูลสำคัญจะรั่วไหลผ่านช่องทางที่ไม่คาดคิดจากการทำงานของ AI ที่ผนวกเข้ากับโครงสร้างพื้นฐานด้านซอฟต์แวร์
