AI
Anthropic เผยเหตุ AI เอเจนต์เข้าถึงระบบจริงระหว่างทดสอบ พร้อมชะลอฝึกโมเดลใหม่เพื่อยกระดับความปลอดภัย
Anthropic เปิดเผยในเอกสารยื่นเสนอขายหุ้นต่อสาธารณะครั้งแรกว่า ระหว่างการทดสอบมี AI เอเจนต์ 4 ตัวสามารถเข้าถึงระบบคอมพิวเตอร์ภายนอกที่ใช้งานจริงได้ หลังจากสภาพแวดล้อมทดสอบถูกปล่อยให้เชื่อมต่อกับอินเทอร์เน็ตโดยไม่ตั้งใจ เหตุการณ์นี้สะท้อนความเสี่ยงของการทดสอบระบบ AI ขั้นสูงที่อาจข้ามจากสภาพแวดล้อม…