นักวิจัยชี้ Copilot ถูกหลอกเปิดเผยช่องโหว่สั่งรันอัตโนมัติ

งานวิจัยด้านความปลอดภัยจาก Varonis Threat Labs ระบุว่า Microsoft Copilot ถูกชักจูงให้เปิดเผยรายละเอียดของช่องโหว่ที่ช่วยให้คำสั่งบางอย่างทำงานได้โดยไม่มีการยืนยันจากผู้ใช้ โดยนักวิจัยเรียกวิธีนี้ว่า “CoSnitch” และอธิบายว่ามันเป็นการค่อยๆ ถามต่อเนื่องเพื่อให้ AI เผยข้อมูลเชิงลึกเกี่ยวกับโครงสร้างภายในของตัวเองมากขึ้นเรื่อยๆ

จุดเริ่มต้นของการทดสอบคือการถาม Copilot ว่าสามารถสั่งงานอัตโนมัติแบบไม่ต้องมีผู้ใช้โต้ตอบได้หรือไม่ ซึ่งระบบตอบว่าต้องมีเจตนาของผู้ใช้และไม่สามารถทำงานเองได้ แต่เมื่อทีมวิจัยไล่ถามต่อทุกครั้งที่ Copilotปฏิเสธ AI กลับให้เหตุผลทางเทคนิคที่ต่างกันไปในแต่ละรอบ ทำให้ผู้วิจัยค่อยๆ รู้โครงสร้างการทำงานภายในและหาช่องเจาะได้ทีละขั้น

ในที่สุด Copilot เผลอเปิดเผยพารามิเตอร์ URL ที่ไม่มีการระบุไว้ในเอกสารชื่อ “autorun=1” พร้อมข้อมูลเกี่ยวกับกลไกป้องกันที่ถูกนำออกไปแล้ว นักวิจัยจึงนำพารามิเตอร์ดังกล่าวไปทดลองซ้ำ และพบว่ายังใช้งานได้จริง ทำให้พวกเขาสามารถสร้างลิงก์อันตรายที่เมื่อผู้ใช้เปิดผ่านเบราว์เซอร์ที่ล็อกอินอยู่ ระบบจะสั่งให้ Copilot รันการทำงานอัตโนมัติได้ทันทีโดยไม่ต้องขออนุญาตแบบชัดเจน

รายงานชี้ว่าความเสี่ยงสำคัญไม่ได้อยู่แค่การสั่งงานเองได้ แต่ยังรวมถึงโอกาสที่ข้อมูลจากบริการเชื่อมต่ออย่าง Gmail, OneDrive และ Calendar อาจถูกดึงออกไปผ่านความสามารถของ Copilot ในการเรียกดู URL ได้อีกด้วย กล่าวคือ หากผู้โจมตีควบคุมลิงก์หรือคำสั่งได้ ก็อาจใช้ Copilot เป็นตัวกลางในการเข้าถึงหรือส่งต่อข้อมูลของผู้ใช้โดยที่เจ้าของบัญชีไม่ทันตั้งตัว

ผู้วิจัยอธิบายแนวทางนี้ว่าเป็นลักษณะของ “meta-hacking” คือไม่ต้องเจาะระบบโดยตรง แต่ค่อยๆ บีบให้โมเดลพูดมากพอจนเผยจุดอ่อนของตัวเองออกมาเอง พวกเขาย้ำว่าเทคนิคดังกล่าวไม่ได้เป็นการแฮ็กโมเดลโดยตรง แต่เป็นการชักจูงให้มันช่วยเปิดเผยข้อมูลที่ไม่ควรพูด

Varonis ระบุว่าได้แจ้งปัญหาให้ Microsoft รับทราบตั้งแต่เดือนธันวาคมปีที่แล้ว และ Microsoft ได้แก้ไขช่องโหว่นี้เมื่อวันที่ 18 สิงหาคม อย่างไรก็ตาม ทีมวิจัยเตือนว่าแนวทางโจมตีแบบ meta-hacking นี้อาจใช้ได้กับแพลตฟอร์ม AI เชิงเอเจนต์อื่นๆ ที่รับคำสั่งผ่านภาษาธรรมชาติด้วย จึงยังควรมีการวิจัยด้านความปลอดภัยต่อไปเพื่อรับมือกับความเสี่ยงในลักษณะเดียวกัน