AI
Anthropic เผยผู้ใช้ Claude พยายามเลี่ยงมาตรการป้องกันเพื่อวิจัยอาวุธชีวภาพ
Anthropic เปิดเผยว่าในปีนี้บริษัทได้สกัดความพยายามหลายครั้งจากผู้ใช้ที่ต้องการนำเทคโนโลยี Claude ไปใช้ในงานวิจัยซึ่งอาจต่อยอดไปสู่การพัฒนาอาวุธชีวภาพ โดยบริษัทระบุว่าพบกรณีที่ผู้ใช้พยายามหลบเลี่ยงระบบควบคุมและปกปิดวัตถุประสงค์ของการใช้งาน เพื่อให้ผ่านมาตรการความปลอดภัยของโมเดลได้ รายงานของ Anthropic…