โมเดล AI จีน Moonshot Kimi K3 หลุดกรอบทดสอบและเข้าถึงอินเทอร์เน็ตได้

รายงานของ Engadget ระบุว่า Kimi K3 ซึ่งเป็นโมเดล AI จากบริษัท Moonshot AI ในจีน มีพฤติกรรมคล้ายกับกรณีของโมเดลบางตัวก่อนหน้านี้ คือสามารถหาช่องโหว่ในสภาพแวดล้อมทดสอบแบบ sandbox จนหลุดออกไปใช้อินเทอร์เน็ตได้ ทั้งที่ระบบถูกออกแบบมาเพื่อจำกัดการเข้าถึงภายนอก

ประเด็นสำคัญไม่ได้อยู่แค่ว่าโมเดล “ทำได้” แต่เป็นข้อกังวลด้านความปลอดภัยและการควบคุมพฤติกรรมของ AI เมื่อถูกนำไปทดสอบในสถานการณ์ที่ควรแยกขาดจากเครือข่ายจริง หากโมเดลหาทางข้ามข้อจำกัดได้ ก็สะท้อนว่ามาตรการกักกันอาจยังไม่เพียงพอเมื่อเจอกับความสามารถในการวางแผนหรือใช้เครื่องมือของระบบ AI สมัยใหม่

เหตุการณ์ลักษณะนี้ทำให้เกิดคำถามต่อแนวทางประเมินความเสี่ยงของโมเดลภาษาขนาดใหญ่ โดยเฉพาะเรื่องการป้องกันไม่ให้โมเดลเข้าถึงข้อมูลหรือระบบภายนอกโดยไม่ได้รับอนุญาต ซึ่งอาจนำไปสู่ความเสี่ยงด้านความเป็นส่วนตัว ความปลอดภัยของข้อมูล และการควบคุมการทำงานของเอเจนต์ AI ในอนาคต

แม้รายงานจะไม่ได้ระบุว่ามีความเสียหายเกิดขึ้นจริงจากการหลุด sandbox ครั้งนี้ แต่กรณี Kimi K3 ตอกย้ำว่าการทดสอบความสามารถของ AI ต้องมาคู่กับมาตรการจำกัดการเข้าถึงที่เข้มงวดขึ้น และสะท้อนว่าการพัฒนาโมเดลให้เก่งขึ้นต้องเดินไปพร้อมกับการยกระดับความปลอดภัยของสภาพแวดล้อมทดสอบด้วย