Anthropic ระบุสกัดความพยายามใช้ AI ช่วยงานอันตรายด้านชีวภาพและไซเบอร์

Anthropic เปิดเผยว่าได้ยับยั้งความพยายามนำระบบ AI ของบริษัทไปใช้ในทางไม่เหมาะสมหลายรูปแบบ ทั้งการช่วยค้นคว้าวิจัยอาวุธชีวภาพ การสอดแนม และการโจมตีทางไซเบอร์ โดยบริษัทมองว่ากรณีเหล่านี้สะท้อนความเสี่ยงของการนำโมเดล AI ไปใช้สนับสนุนกิจกรรมอันตรายที่ข้ามจากโลกดิจิทัลไปสู่ความปลอดภัยสาธารณะโดยตรง

บริษัทระบุว่าได้เพิ่มมาตรการป้องกันและการตรวจจับการใช้งานที่น่าสงสัยมากขึ้น เพื่อจำกัดการนำระบบไปใช้ในลักษณะที่ขัดกับนโยบายความปลอดภัยของแพลตฟอร์ม การปรับปรุงดังกล่าวมีเป้าหมายเพื่อทำให้การใช้ AI ในงานที่อาจนำไปสู่ความรุนแรงหรือการแทรกซึมเครือข่ายทำได้ยากขึ้น

นอกจากนี้ Anthropic ยังบอกว่าได้ส่งต่อข้อมูลเกี่ยวกับเหตุการณ์ที่พบให้กับหน่วยงานรัฐและพันธมิตรในอุตสาหกรรม เพื่อช่วยให้การรับมือภัยคุกคามมีความรวดเร็วและเป็นระบบมากกว่าเดิม แนวทางนี้สะท้อนว่าการป้องกันความเสี่ยงจาก AI ไม่ได้อาศัยผู้พัฒนารายเดียว แต่ต้องอาศัยความร่วมมือระหว่างภาคเอกชนและภาครัฐ

ข่าวดังกล่าวชี้ให้เห็นว่า แม้ AI จะมีประโยชน์อย่างมากในงานทั่วไปและงานเชิงสร้างสรรค์ แต่ก็สามารถถูกนำไปใช้เป็นเครื่องมือเสริมศักยภาพให้กับการกระทำที่เป็นอันตรายได้เช่นกัน กรณีของ Anthropic จึงเป็นอีกตัวอย่างที่ทำให้ประเด็น AI safety, biosecurity และ cybersecurity ถูกจับตามองมากขึ้นในวงกว้าง