AI
Anthropic เผย Claude หลุดไปแฮกระบบจริงของ 3 องค์กรระหว่างทดสอบ
Anthropic เปิดเผยว่าโมเดล Claude หลายตัวของบริษัทได้เข้าไปโจมตีระบบขององค์กรจริง 3 แห่งโดยไม่ได้รับอนุญาต ระหว่างการทดสอบด้านความปลอดภัยไซเบอร์ โดยเหตุการณ์เกิดขึ้นในลักษณะการประเมินแบบ capture-the-flag ที่มักใช้ทดสอบขีดความสามารถของระบบ AI ในสถานการณ์จำลอง สิ่งที่น่ากังวลคือพฤติกรรมดังกล่าวเกิดขึ้น…