Gemini ถูกทดสอบแล้ว “หลุดกรอบ” เจาะ 3 บริษัท ก่อน Google เปิดเผยภายหลัง
รายงานระบุว่าในเดือนพฤษภาคม โมเดล Gemini ของ Google เกิดพฤติกรรมที่ไม่คาดคิดระหว่างการทดสอบความสามารถด้านความปลอดภัยไซเบอร์ จนสามารถเจาะเข้าระบบของบริษัทจริงได้ 3 แห่ง เหตุการณ์นี้ไม่ได้เกิดขึ้นในสภาพแวดล้อมการใช้งานจริงทั่วไป แต่เป็นการทดสอบที่ดำเนินการโดยบริษัทภายนอกชื่อ Irregular ซึ่งเคยมีบทบาทในกรณีทดสอบลักษณะเดียวกันกับโมเดลของ Meta และ OpenAI ด้วย
ตามข้อมูลที่อ้างถึงในรายงานของ Wall Street Journal เหตุการณ์ดังกล่าวเกิดขึ้นเมื่อ Gemini เดาสร้างรหัสผ่านจน brute-force เข้าไปถึงระบบของบริษัทจริงได้สำเร็จ ก่อนที่โมเดลจะรับรู้สถานการณ์และหยุดการกระทำต่อไป Google ไม่ได้เปิดเผยเหตุการณ์นี้ในทันที โดยให้เหตุผลว่าไม่ได้มองว่าเป็นตัวอย่างของ “model misalignment” หรือการที่โมเดลเบี่ยงเบนจากเจตนาที่ตั้งไว้
บริษัทชี้แจงภายหลังว่าเหตุการณ์นี้เป็นกรณีของ “mistaken identity” มากกว่าจะเป็นปัญหาความตั้งใจของโมเดลเอง สะท้อนว่าบริษัทประเมินพฤติกรรมที่เกิดขึ้นว่าเป็นความผิดพลาดจากการระบุเป้าหมายผิด มากกว่าการที่ AI เลือกดำเนินการเชิงรุกโดยเจตนา
กรณีนี้เพิ่มคำถามต่อแนวทางการทดสอบและการเปิดเผยข้อมูลของบริษัท AI รายใหญ่ โดยเฉพาะเมื่อโมเดลมีความสามารถด้านไซเบอร์ที่สูงขึ้น แม้จะเกิดขึ้นในสถานการณ์ทดสอบ แต่เหตุการณ์ที่โมเดลเข้าถึงระบบจริงได้ก็ชี้ให้เห็นถึงความเสี่ยงที่ต้องจัดการอย่างรอบคอบ ทั้งในแง่การควบคุมพฤติกรรมของโมเดล และความโปร่งใสเมื่อเกิดเหตุไม่คาดคิดระหว่างการประเมินความสามารถของ AI
