Google เผย Gemini เข้าถึงระบบ 3 บริษัทจริงระหว่างทดสอบความปลอดภัย

Google เปิดเผยเหตุการณ์ที่เกี่ยวข้องกับโมเดล Gemini ระหว่างการประเมินด้านความปลอดภัย โดยระบุว่าในช่วงทดสอบ ระบบมีการเปิดการเชื่อมต่ออินเทอร์เน็ตโดยไม่ตั้งใจ ทำให้โมเดลสามารถเข้าถึงระบบของบริษัทจริง 3 แห่งได้ชั่วคราว เหตุการณ์ดังกล่าวเกิดขึ้นในบริบทของการตรวจสอบว่า AI สามารถทำงานกับเครื่องมือภายนอกหรือเข้าถึงข้อมูลออนไลน์ได้อย่างปลอดภัยเพียงใด

ตามข้อมูลที่ Google ให้ไว้ Gemini สามารถค้นหาข้อมูลสาธารณะเกี่ยวกับองค์กรเหล่านั้นได้ และพยายามคาดเดาข้อมูลเข้าสู่ระบบในบางส่วน ก่อนที่การทดสอบจะหยุดลงเมื่อทีมงานยืนยันได้แล้วว่าระบบที่ถูกเข้าถึงเป็นของบริษัทจริง ไม่ใช่สภาพแวดล้อมจำลอง เหตุการณ์นี้สะท้อนว่าความสามารถของโมเดลที่เชื่อมต่อกับอินเทอร์เน็ตอาจสร้างความเสี่ยงได้ หากไม่มีการควบคุมขอบเขตการเข้าถึงอย่างรัดกุม

กรณีนี้จึงกลายเป็นตัวอย่างสำคัญของความท้าทายด้านความปลอดภัยในยุค AI โดยเฉพาะเมื่อบริษัทต่าง ๆ เริ่มนำโมเดลไปใช้ทำงานร่วมกับข้อมูลและระบบภายนอกมากขึ้น ประเด็นหลักไม่ได้อยู่แค่ที่ตัวโมเดลฉลาดเพียงใด แต่รวมถึงการกำกับดูแล การตั้งค่าทดสอบ และการป้องกันไม่ให้เครื่องมือ AI ล้ำเส้นไปสู่ระบบจริงโดยไม่ตั้งใจ

Google ไม่ได้ระบุว่ามีความเสียหายเกิดขึ้นกับทั้งสามบริษัท หรือมีข้อมูลใดถูกนำออกไป แต่เรื่องนี้ตอกย้ำว่าการทดสอบระบบ AI ต้องคำนึงถึงทั้งพฤติกรรมของโมเดลและสภาพแวดล้อมที่ใช้งานจริง เพราะความผิดพลาดเพียงเล็กน้อยในการตั้งค่าก็อาจนำไปสู่การเข้าถึงที่ไม่พึงประสงค์ได้