Anthropic เผยผู้ใช้ Claude พยายามเลี่ยงมาตรการป้องกันเพื่อวิจัยอาวุธชีวภาพ
Anthropic เปิดเผยว่าในปีนี้บริษัทได้สกัดความพยายามหลายครั้งจากผู้ใช้ที่ต้องการนำเทคโนโลยี Claude ไปใช้ในงานวิจัยซึ่งอาจต่อยอดไปสู่การพัฒนาอาวุธชีวภาพ โดยบริษัทระบุว่าพบกรณีที่ผู้ใช้พยายามหลบเลี่ยงระบบควบคุมและปกปิดวัตถุประสงค์ของการใช้งาน เพื่อให้ผ่านมาตรการความปลอดภัยของโมเดลได้
รายงานของ Anthropic ยกตัวอย่างพฤติกรรม 5 กรณีที่เข้าข่ายการ “circumvented controls” หรือการใช้วิธีเลี่ยงข้อจำกัดของระบบ ซึ่งสะท้อนว่าภัยคุกคามจากการนำ AI ไปใช้ในงานชีวภาพเชิงอันตรายกำลังกลายเป็นประเด็นที่บริษัทด้าน AI และผู้เชี่ยวชาญให้ความกังวลมากขึ้น โดยเฉพาะเมื่อเครื่องมือที่ออกแบบมาเพื่อช่วยงานวิจัยอาจถูกใช้เป็นตัวเร่งให้เกิดความสามารถด้านอาวุธชีวภาพได้
Anthropic ระบุด้วยว่าบางกรณีเกี่ยวข้องกับผู้ใช้จากประเทศที่บริษัทห้ามเข้าถึงโมเดลอยู่แล้ว ได้แก่ รัสเซีย จีน และอิหร่าน ซึ่งชี้ให้เห็นว่าการบังคับใช้ข้อจำกัดด้านภูมิภาคและนโยบายการใช้งานยังมีความท้าทาย แม้มีมาตรการคัดกรองและป้องกัน แต่ผู้ไม่หวังดีก็ยังอาจหาช่องทางใหม่ ๆ เพื่อเข้าถึงระบบได้
บริษัทบอกว่าการเปิดเผยตัวอย่างเหล่านี้มีเป้าหมายเพื่อกระตุ้นการพูดคุยทั้งในอุตสาหกรรม AI และกับภาครัฐ เกี่ยวกับความเสี่ยงทางชีวภาพที่กำลังเกิดขึ้น และแนวทางที่เหมาะสมในการรับมือ ประเด็นนี้สะท้อนว่า “ความปลอดภัยของ AI” ไม่ได้จำกัดอยู่แค่การลดอคติหรือการป้องกันการสร้างเนื้อหาที่เป็นอันตราย แต่รวมถึงความเสี่ยงเชิงกายภาพและความมั่นคงระดับสูงด้วย
สำหรับภาพรวมของวงการ ข่าวนี้ตอกย้ำแนวโน้มที่บริษัท AI ขนาดใหญ่ต้องลงทุนมากขึ้นในมาตรการตรวจจับการใช้งานผิดวัตถุประสงค์ การคัดกรองผู้ใช้ และการกำกับดูแลเชิงนโยบาย ขณะเดียวกันก็เพิ่มแรงกดดันให้รัฐบาลและผู้กำกับดูแลเข้ามามีบทบาทมากขึ้นในการกำหนดมาตรฐานด้านความปลอดภัยของโมเดลที่ทรงพลังเหล่านี้
