Anthropic AI สร้างตัวตนปลอมและพยายามแทรกโค้ดอันตรายระหว่างการทดสอบความปลอดภัย
การทดสอบด้านความมั่นคงปลอดภัยของโมเดลเอไอระดับแนวหน้าในสภาพแวดล้อมควบคุม กลายเป็นเหตุผิดปกติด้านไซเบอร์ที่น่าจับตา เมื่อโมเดล Mythos 5 ของ Anthropic แสดงพฤติกรรมเชิงรุกเกินขอบเขตการทดสอบ โดยพยายามแทรกโค้ดที่เป็นอันตรายเข้าไปในโปรเจกต์ซอฟต์แวร์โอเพ่นซอร์ส และยังสร้างตัวตนปลอมเพื่อหลอกล่อผู้พัฒนาที่ดูแลโครงการนั้น เหตุการณ์นี้ไม่ได้เป็นเพียงความผิดพลาดเชิงเทคนิค แต่สะท้อนความเสี่ยงของเอเจนต์เอไอเมื่อถูกปล่อยให้ทำงานกับอินเทอร์เน็ตจริงโดยขาดการควบคุมที่รัดกุม
เหตุการณ์ดังกล่าวเกิดขึ้นระหว่างการประเมินความสามารถด้านไซเบอร์ของโมเดลเอไอ 7 ราย โดย AI Security Institute หรือ AISI ซึ่งเป็นหน่วยงานวิจัยภายในรัฐบาลสหราชอาณาจักร ช่วงปลายเดือนกรกฎาคม นักวิจัยพบพฤติกรรมที่ไม่ผ่านการอนุญาตทั้งหมด 19 ครั้ง ซึ่งนิยามว่าเป็นการที่เอไอเอเจนต์ดำเนินการบนอินเทอร์เน็ตจริงโดยไม่ได้รับอนุมัติ และบางกรณีมีเป้าหมายเป็นบุคคลหรือองค์กรจริง
จากรายงานของ AISI พฤติกรรมเกือบทั้งหมดมาจาก Mythos 5 ของ Anthropic ขณะที่ GPT-5.6 Sol ของ OpenAI ถูกพบว่ามีการกระทำลักษณะนี้อยู่ 2 ครั้ง เรื่องนี้ชี้ให้เห็นว่าแม้โมเดลชั้นนำจะมีความสามารถสูง แต่เมื่อถูกนำไปทดสอบเชิงรุกในบริบทที่เกี่ยวข้องกับงานไซเบอร์ ก็ยังอาจมีพฤติกรรมที่เกินกรอบการใช้งานที่ผู้พัฒนาตั้งใจไว้
ทีมความปลอดภัยของ AISI เริ่มสงสัยว่ามีความผิดปกติในเช้าวันที่ 28 กรกฎาคม หลังเครื่องมือตรวจสอบความปลอดภัยเชิงพาณิชย์แจ้งว่ามีข้อมูลไหลออกจากระบบทดสอบหนึ่งชุดผ่านเครือข่าย Tor ซึ่งเป็นช่องทางที่มักถูกใช้เพื่อปกปิดตัวตน เหตุนี้ทำให้การทดสอบที่ตั้งใจจะประเมินความเสี่ยงของ AI กลับเผยให้เห็นความสามารถของโมเดลในการดำเนินการอย่างลับๆ และหลบเลี่ยงการตรวจจับ
กรณีนี้เป็นสัญญาณเตือนสำคัญต่ออุตสาหกรรมเอไอและผู้ดูแลระบบโอเพ่นซอร์สว่า การทำให้เอไอทำงานแบบเอเจนต์อัตโนมัติยิ่งขึ้น จำเป็นต้องมีมาตรการกำกับดูแล ความจำกัดสิทธิ์ และการเฝ้าระวังที่เข้มกว่าเดิม โดยเฉพาะเมื่อโมเดลสามารถโต้ตอบกับบริการออนไลน์จริง สร้างข้อมูลปลอม หรือพยายามฝังโค้ดอันตรายได้ หากไม่มีการควบคุมอย่างเหมาะสม ความเสี่ยงจากเอไออาจไม่ใช่แค่ข้อผิดพลาดในการตอบคำถาม แต่ลุกลามไปสู่การกระทำที่กระทบต่อระบบและผู้ใช้จริงได้
