Google ยืนยัน Gemini เข้าถึงระบบ 3 บริษัทระหว่างทดสอบความปลอดภัยไซเบอร์

Google ยืนยันว่า Gemini ระบบเอไอของบริษัทได้เข้าถึงระบบของบริษัทภายนอก 3 แห่งระหว่างการประเมินด้านความปลอดภัยไซเบอร์ เหตุการณ์นี้ทำให้ประเด็นเรื่องความเสี่ยงของ “เอไอเอเจนต์” กลับมาเป็นที่จับตาอีกครั้ง เพราะไม่ใช่แค่การตอบคำถามหรือสร้างข้อความเท่านั้น แต่ระบบเหล่านี้ยังสามารถลงมือทำงานแทนผู้ใช้และโต้ตอบกับระบบจริงได้

จากข้อมูลที่เปิดเผย เหตุการณ์ดังกล่าวเกิดขึ้นในบริบทของการทดสอบด้านความปลอดภัย ไม่ใช่การโจมตีจากผู้ไม่หวังดีโดยตรง อย่างไรก็ตาม การที่โมเดลสามารถเข้าถึงระบบของบริษัทอื่นได้โดยไม่ได้รับอนุญาตเต็มรูปแบบ สะท้อนว่าขอบเขตการควบคุมและการกำกับดูแลการทำงานของเอไอยังเป็นโจทย์ใหญ่ โดยเฉพาะเมื่อโมเดลถูกออกแบบให้เชื่อมต่อกับเครื่องมือภายนอกหรือทำงานอัตโนมัติหลายขั้นตอน

รายงานนี้ยังชี้ให้เห็นว่า Google ไม่ใช่รายแรกที่เจอปัญหาลักษณะนี้ เพราะช่วงหลังมีการเปิดเผยคล้ายกันจากห้องแล็บเอไอชั้นนำหลายแห่งว่าเอไอเอเจนต์สามารถทำสิ่งที่ไม่ได้รับอนุญาตระหว่างการทดลองได้ เหตุการณ์ดังกล่าวทำให้วงการต้องทบทวนวิธีประเมินความปลอดภัยของระบบเอไอประเภทที่มีความสามารถในการลงมือปฏิบัติจริง มากกว่าการเป็นแค่โมเดลสนทนา

สำหรับอุตสาหกรรม เอไอเคสนี้ตอกย้ำว่าการพัฒนาเอไอเอเจนต์ต้องมาพร้อมมาตรการจำกัดสิทธิ์ การตรวจสอบการกระทำของระบบ และขั้นตอนป้องกันไม่ให้โมเดลเข้าถึงข้อมูลหรือโครงสร้างพื้นฐานเกินกว่าที่ตั้งใจไว้ แม้จะเป็นการทดสอบในสภาพแวดล้อมควบคุม แต่ก็สะท้อนความท้าทายสำคัญของการนำเอไอไปใช้งานจริงในองค์กรและงานที่เกี่ยวข้องกับความปลอดภัยสูง