แหล่งรวมข่าวเทคโนโลยี
nerdsify
แท็ก

#model misuse

Anthropic เผยนักวิทย์บางกลุ่มใช้ Claude ช่วยต่อยอดงานวิจัยอาวุธชีวภาพ
AI

Anthropic เผยนักวิทย์บางกลุ่มใช้ Claude ช่วยต่อยอดงานวิจัยอาวุธชีวภาพ

Anthropic เปิดเผยชุดกรณีศึกษาขนาดใหญ่ที่รวบรวมตัวอย่างการนำโมเดล AI รุ่นปัจจุบันไปใช้ในทางที่ไม่เหมาะสม โดยหนึ่งในประเด็นที่น่ากังวลที่สุดคือมีนักวิจัยหรือผู้ใช้งานบางกลุ่มพยายามใช้ Claude เพื่อช่วยต่อยอดการศึกษาที่เกี่ยวข้องกับอาวุธชีวภาพ รายงานลักษณะนี้สะท้อนว่าความเสี่ยงจากโมเดลภาษาขนาดใหญ่ไม่ได้…