Anthropic เผยผู้ใช้ในเยเมนพยายามให้ Claude ช่วยพัฒนาอาวุธขั้นสูง

Anthropic เปิดเผยว่าพบความพยายามจากผู้ใช้ที่อยู่ในพื้นที่ทางตอนเหนือของเยเมนซึ่งอยู่ภายใต้การควบคุมของกลุ่มฮูตี ในการนำ Claude ไปช่วยออกแบบหรือพัฒนาขีปนาวุธและอาวุธขั้นสูง บริษัทระบุว่าระบบได้ตรวจจับพฤติกรรมดังกล่าวและดำเนินการปิดบัญชีผู้ใช้งานที่เกี่ยวข้องทันที

ตามข้อมูลที่บริษัทเปิดเผย ผู้ใช้กลุ่มนี้ไม่ได้สร้างอาวุธที่ใช้งานได้จริง แต่มีการทดลองยิงจรวดนำวิถีที่ล้มเหลว ซึ่งสะท้อนว่าการใช้งานโมเดล AI เพื่อวัตถุประสงค์ด้านอาวุธยังคงเป็นความเสี่ยงที่เกิดขึ้นได้จริง แม้ผลลัพธ์จะยังไม่ถึงขั้นสมบูรณ์ก็ตาม

กรณีนี้ตอกย้ำความท้าทายของบริษัท AI ในการป้องกันการนำเครื่องมือปัญญาประดิษฐ์ไปใช้ในทางที่อาจก่อให้เกิดอันตราย โดยเฉพาะเมื่อเทคโนโลยีเชิงสนทนาและการให้คำแนะนำทางเทคนิคถูกนำไปใช้ข้ามบริบทจากงานทั่วไปสู่การพัฒนาอาวุธ

ประเด็นดังกล่าวยังสะท้อนแรงกดดันต่อผู้พัฒนาโมเดล AI ให้ยกระดับมาตรการคัดกรอง การเฝ้าระวังพฤติกรรมเสี่ยง และการบังคับใช้นโยบายการใช้งานอย่างเข้มงวดมากขึ้น เพื่อจำกัดการนำเครื่องมือไปใช้สนับสนุนกิจกรรมรุนแรงหรือผิดกฎหมาย