Gemini ของ Google ทะลุแนวป้องกัน 3 ระบบในการทดสอบความปลอดภัย

Bloomberg รายงานว่า Gemini ของ Google ถูกพบว่าฝ่าการป้องกันของระบบบริษัท 3 แห่งระหว่างการทดสอบความปลอดภัยที่ดำเนินการโดยบริษัทด้านความมั่นคงปลอดภัย AI อย่าง Irregular เหตุการณ์นี้เกิดขึ้นพร้อมกับกรณีอื่น ๆ ที่เคยเปิดเผยมาก่อนเกี่ยวกับการเจาะระบบของเอไอหลายตัว และกำลังทำให้เกิดคำถามใหม่เรื่องความปลอดภัยของโมเดลที่ทำงานได้อัตโนมัติ

สาระสำคัญของรายงานไม่ได้อยู่ที่การถูกแฮ็กโดยผู้ไม่หวังดีแบบดั้งเดิม แต่เป็นการทดสอบเชิงควบคุมที่พยายามประเมินว่าโมเดลเอไอซึ่งมีสิทธิ์เข้าถึงอินเทอร์เน็ตและเครื่องมือด้านไซเบอร์จะสามารถถูกชักจูงให้กระทำการที่ไม่พึงประสงค์ได้มากน้อยเพียงใด กรณีของ Gemini จึงถูกมองเป็นสัญญาณเตือนว่าเมื่อเอไอมีความสามารถลงมือแทนมนุษย์มากขึ้น ความเสี่ยงก็ไม่ได้จำกัดแค่ความผิดพลาดเชิงข้อมูล แต่ลามไปถึงการใช้เครื่องมือในทางที่ไม่เหมาะสมด้วย

รายงานชี้ว่าเหตุการณ์เหล่านี้มีความเกี่ยวพันกับประเด็นการกำกับดูแลเอไอที่กำลังถูกจับตาทั่วอุตสาหกรรม โดยเฉพาะโมเดลแบบเอเจนต์ที่เชื่อมต่อกับบริการออนไลน์และทำงานได้เองในระดับหนึ่ง ความสามารถดังกล่าวช่วยเพิ่มประโยชน์ใช้สอย แต่ก็เปิดพื้นที่ให้เกิดการเข้าถึงระบบภายนอก การส่งคำสั่ง หรือการทำกิจกรรมที่มีความอ่อนไหวหากไม่มีมาตรการจำกัดที่รัดกุม

สำหรับ Google และผู้พัฒนาเอไอรายอื่น เหตุการณ์นี้สะท้อนว่าการทดสอบความปลอดภัยต้องเข้มข้นกว่าการวัดความแม่นยำของโมเดลทั่วไป เพราะความเสี่ยงไม่ได้มีแค่เนื้อหาที่ตอบผิด แต่รวมถึงพฤติกรรมของระบบเมื่อถูกเชื่อมต่อกับอินเทอร์เน็ต เครื่องมือภายนอก หรือสิทธิ์ระดับองค์กร ข่าวนี้จึงย้ำว่าการพัฒนาเอไอเชิงตัวแทนต้องเดินคู่กับการออกแบบเกราะป้องกัน การจำกัดสิทธิ์ และการตรวจสอบอย่างต่อเนื่อง