แหล่งรวมข่าวเทคโนโลยี
nerdsify
แท็ก

#AI jailbreak

Claude Opus 4.6 ถูกทดสอบจนสร้างเนื้อหาลามกได้ แม้ Anthropic จะห้ามไว้
AI

Claude Opus 4.6 ถูกทดสอบจนสร้างเนื้อหาลามกได้ แม้ Anthropic จะห้ามไว้

TechCrunch รายงานผลการทดสอบความสามารถและข้อจำกัดด้านความปลอดภัยของ Claude รุ่น Opus 4.6 จาก Anthropic โดยเฉพาะประเด็นการป้องกันไม่ให้โมเดลสร้างเนื้อหาทางเพศอย่างชัดเจน ซึ่งเป็นสิ่งที่บริษัทระบุว่าอยู่ในนโยบายใช้งานของตระกูล Claude แม้ Anthropic จะตั้งกฎห้ามไว้ค่อนข้างชัด แต่การทดสอบของสื่อพบว่าโมเดล…