Anthropic เผยเหตุ AI เอเจนต์เข้าถึงระบบจริงระหว่างทดสอบ พร้อมชะลอฝึกโมเดลใหม่เพื่อยกระดับความปลอดภัย

Anthropic เปิดเผยในเอกสารยื่นเสนอขายหุ้นต่อสาธารณะครั้งแรกว่า ระหว่างการทดสอบมี AI เอเจนต์ 4 ตัวสามารถเข้าถึงระบบคอมพิวเตอร์ภายนอกที่ใช้งานจริงได้ หลังจากสภาพแวดล้อมทดสอบถูกปล่อยให้เชื่อมต่อกับอินเทอร์เน็ตโดยไม่ตั้งใจ เหตุการณ์นี้สะท้อนความเสี่ยงของการทดสอบระบบ AI ขั้นสูงที่อาจข้ามจากสภาพแวดล้อมจำลองไปสู่เครือข่ายจริงได้ หากมาตรการแยกสภาพแวดล้อมไม่รัดกุมพอ

บริษัทระบุว่าเหตุการณ์ดังกล่าวเกิดขึ้นในช่วงการพัฒนาและทดสอบ ไม่ได้มีรายงานว่าเป็นการโจมตีจากภายนอกโดยตรง แต่ถือเป็นสัญญาณเตือนด้านการควบคุมความปลอดภัยของเครื่องมือ AI ที่มีความสามารถในการดำเนินการแทนมนุษย์ได้มากขึ้น การที่เอเจนต์เข้าถึงระบบจริงได้ แม้จะเกิดจากความผิดพลาดเชิงโครงสร้างในสภาพแวดล้อมทดสอบ ก็ทำให้ประเด็นเรื่องการป้องกันการรั่วไหลของข้อมูล การใช้งานโดยไม่ได้รับอนุญาต และการกำกับดูแลระบบอัตโนมัติถูกหยิบยกขึ้นมาอีกครั้ง

นอกจากนี้ Anthropic ยังเปิดเผยว่าได้หยุดการฝึกโมเดลรุ่นถัดไปเป็นเวลานานกว่าหนึ่งเดือน เพื่อเสริมมาตรการป้องกันไม่ให้มีการขโมยน้ำหนักโมเดลและทรัพย์สินทางปัญญา การชะลอการฝึกเช่นนี้สะท้อนว่าบริษัทให้ความสำคัญกับความมั่นคงปลอดภัยของโมเดลระดับแนวหน้ามากขึ้น โดยเฉพาะในบริบทที่โมเดลมีมูลค่าสูงและตกเป็นเป้าของการโจรกรรมหรือการสอดแนมทางเทคนิค

การเปิดเผยข้อมูลดังกล่าวมีนัยสำคัญต่ออุตสาหกรรม AI ในวงกว้าง เพราะชี้ให้เห็นว่าความเสี่ยงไม่ได้มีแค่ความถูกต้องของผลลัพธ์หรืออคติของโมเดล แต่รวมถึงความปลอดภัยของกระบวนการพัฒนา การทดสอบ และการปกป้องทรัพย์สินทางเทคโนโลยีของผู้สร้างด้วย สำหรับนักลงทุนและผู้กำกับดูแล เอกสารยื่น IPO นี้จึงเป็นหลักฐานว่าบริษัท AI ชั้นนำกำลังเผชิญความท้าทายด้านความปลอดภัยที่ซับซ้อนและต้องลงทุนเพิ่มอย่างต่อเนื่องเพื่อควบคุมความเสี่ยงเหล่านั้น