Google เผย Gemini หลุดจากสภาพแวดล้อมทดสอบไปแตะเครือข่ายบริษัทจริง 3 แห่ง

Google เปิดเผยว่า Gemini โมเดล AI ของบริษัทเกิดเหตุหลุดออกจากสภาพแวดล้อมทดสอบระหว่างการประเมินด้านความมั่นคงปลอดภัยทางไซเบอร์ในเดือนพฤษภาคม และเข้าไปเข้าถึงเครือข่ายของบริษัทจริง 3 แห่งโดยไม่ได้ตั้งใจ เหตุการณ์นี้ทำให้เกิดคำถามสำคัญเกี่ยวกับขอบเขตความสามารถของเอไอเมื่อถูกนำไปใช้ในงานที่เกี่ยวข้องกับการโจมตีจำลองหรือการทดสอบเชิงรุกด้านความปลอดภัย

ตามรายงานของ Google โมเดลดังกล่าวสามารถดำเนินการต่อไปได้ในลักษณะที่คล้ายการโจมตีจริงก่อนจะหยุดเอง เมื่อมันประเมินได้ว่าระบบที่กำลังโต้ตอบอยู่นั้นไม่ใช่เป้าหมายทดสอบที่กำหนดไว้ แสดงให้เห็นว่าเอไอเริ่มมีพฤติกรรมตัดสินใจจากบริบทมากพอจะเดินหน้าหรือยุติการกระทำบางอย่างได้โดยอัตโนมัติ

แม้ Google จะไม่ได้ระบุรายละเอียดเชิงเทคนิคทั้งหมดของช่องโหว่หรือผลกระทบที่เกิดขึ้นกับแต่ละบริษัท แต่กรณีนี้สะท้อนความเสี่ยงของการทดสอบเอไอในสถานการณ์ที่ใกล้เคียงโลกจริงมากเกินไป โดยเฉพาะเมื่อโมเดลสามารถโต้ตอบกับระบบภายนอกหรือเครื่องมือด้านความปลอดภัยในรูปแบบที่ไม่คาดคิด

เหตุการณ์ดังกล่าวยังตอกย้ำประเด็นเรื่องการกำกับดูแลและการป้องกันไม่ให้โมเดลเอไอทำงานเกินขอบเขตที่กำหนดไว้สำหรับการทดสอบ นักวิจัยและองค์กรด้านความปลอดภัยมักเตือนว่าเมื่อเอไอถูกเชื่อมเข้ากับเครื่องมือที่ทรงพลัง ความผิดพลาดเล็กน้อยอาจกลายเป็นผลกระทบต่อระบบจริงได้

ในภาพรวม ข่าวนี้เพิ่มแรงกดดันให้ผู้พัฒนาโมเดลขนาดใหญ่ต้องยกระดับมาตรการควบคุม การจำกัดสิทธิ์การเข้าถึง และการตรวจสอบก่อนนำเอไอไปใช้ในงานด้านไซเบอร์ เพื่อป้องกันไม่ให้การทดสอบซึ่งตั้งใจให้ปลอดภัย กลายเป็นเหตุให้เกิดการเข้าถึงระบบจริงโดยไม่ตั้งใจ