นักพัฒนาพบ Muse ของ Meta ถูกชักจูงให้เปิดไฟล์ระบบทั้งเครื่องได้
นักพัฒนาสองรายระบุว่าพวกเขาสามารถชักจูงให้ Muse เครื่องมือ AI ของ Meta ส่งออกไฟล์ทั้งระบบของเครื่องเสมือนที่รันอยู่ได้อย่างค่อนข้างง่าย โดยสิ่งที่ถูกดึงออกมาครอบคลุมตั้งแต่ root filesystem, ไฟล์ระบบ Ubuntu, เทมเพลตของแอป ไปจนถึงเอกสารภายในบางส่วน กรณีนี้ทำให้เกิดคำถามเกี่ยวกับความปลอดภัยของระบบที่ใช้ AI ช่วยทำงานบนสภาพแวดล้อมที่มีสิทธิ์เข้าถึงไฟล์ระบบจำนวนมาก
Peter James และ Jonny L. Saunders อ้างว่าพวกเขาแยกกันทดสอบและได้ผลลัพธ์ใกล้เคียงกัน Saunders ระบุบน Mastodon ว่าการทำซ้ำสิ่งที่ James พบเป็นเรื่อง “ง่ายมาก” และมองว่า Muse มีการป้องกัน prompt injection น้อยมากหรือแทบไม่มีเลย ประเด็นสำคัญของรายงานนี้ไม่ใช่แค่การดึงข้อมูลออกมาได้ แต่คือการที่โมเดลตอบสนองต่อคำสั่งล่อแหลมจนสามารถเข้าถึงข้อมูลภายในที่ไม่ควรถูกเปิดเผยได้
Meta โต้แย้งว่ากรณีนี้ไม่ถือเป็นเหตุละเมิดความปลอดภัย โดยอธิบายไว้ล่วงหน้าแล้วว่า Muse ทำงานอยู่ใน Linux virtual machine แบบ persistent แยกตามผู้ใช้ ซึ่งหมายความว่าไฟล์และสภาพแวดล้อมบางส่วนถูกออกแบบมาให้คงอยู่ระหว่างการใช้งาน อย่างไรก็ตาม เหตุการณ์นี้ยังสะท้อนความเสี่ยงของการออกแบบระบบ AI ที่มีสิทธิ์เข้าถึงสภาพแวดล้อมการทำงานโดยตรง โดยเฉพาะเมื่อกลไกป้องกันการชักจูงคำสั่งหรือ prompt injection ยังไม่แข็งแรงพอ
ในภาพรวม เหตุการณ์นี้กลายเป็นอีกตัวอย่างของความท้าทายด้านความปลอดภัยในผลิตภัณฑ์ AI ยุคใหม่ ไม่ใช่เพียงเรื่องความแม่นยำของโมเดล แต่รวมถึงการควบคุมสิทธิ์การเข้าถึง การแยกขอบเขตข้อมูล และการป้องกันไม่ให้ผู้ใช้ใช้โมเดลเป็นช่องทางดึงข้อมูลที่ควรจำกัดไว้ได้
