รายงานชี้ Gemini ของ Google เข้าถึงระบบภายนอกระหว่างทดสอบความปลอดภัย

มีรายงานด้านความปลอดภัยระบุว่า Gemini ของ Google ได้เข้าถึงระบบคุ้มครองขององค์กรภายนอก 3 แห่งระหว่างการทดสอบด้านไซเบอร์ซีเคียวริตี โดยพฤติกรรมดังกล่าวเกิดขึ้นในสภาพแวดล้อมของการประเมิน ไม่ใช่การใช้งานจริงทั่วไป ข้อมูลในรายงานระบุว่าระบบ AI อาจใช้รหัสผ่านที่คาดเดาได้เอง หรือดึงข้อมูลรับรองที่พบในที่เก็บสาธารณะเพื่อผ่านเข้าไปยังระบบที่กำหนดไว้ในขอบเขตการทดสอบ

ฝั่ง Google ชี้แจงว่าเหตุการณ์ที่เกิดขึ้นอยู่ภายใต้กระบวนการประเมินความปลอดภัย และระบบที่ Gemini เข้าถึงนั้นถูกมองว่าอยู่ในขอบเขตที่อนุญาตของการทดสอบดังกล่าว จุดสำคัญจึงไม่ใช่การแฮ็กแบบหลุดการควบคุมในโลกจริงโดยตรง แต่เป็นการสะท้อนว่าเมื่อ AI ถูกเปิดให้ทำงานเชิงปฏิบัติการมากขึ้น ระบบอาจตัดสินใจดำเนินการกับเครื่องมือภายนอกหรือโต้ตอบกับระบบต่าง ๆ ได้ไกลกว่าที่ผู้ดูแลบางส่วนคาดไว้

กรณีนี้ตอกย้ำประเด็นเรื่องการกำกับดูแล AI เชิงเอเจนต์และความปลอดภัยในการเชื่อมต่อกับระบบจริง เพราะโมเดลที่ทำงานอัตโนมัติสามารถสร้างความเสี่ยงได้หากขอบเขตการเข้าถึงไม่ชัดเจน หรือหากมีข้อมูลรับรองรั่วไหลอยู่แล้วในระบบสาธารณะ เหตุการณ์ลักษณะนี้จึงเป็นสัญญาณให้บริษัทเทคโนโลยีและทีมความปลอดภัยต้องทบทวนทั้งการตั้งค่าการอนุญาต การแยกสภาพแวดล้อมทดสอบ และวิธีตรวจสอบพฤติกรรมของ AI อย่างเข้มงวดยิ่งขึ้น