Anthropic เผยมีหลายกลุ่มนำ Claude ไปใช้โจมตีไซเบอร์ สอดแนม และหาข้อมูลอาวุธ

Anthropic ระบุว่าได้ตรวจพบและสกัดกั้นความพยายามนำ Claude ไปใช้ในกิจกรรมผิดกฎหมายหลายรูปแบบ โดยเกี่ยวข้องกับกลุ่มอาชญากรรมทางไซเบอร์ ผู้ปฏิบัติการที่เชื่อมโยงกับจีน ผู้ต้องสงสัยด้านการสอดแนมที่เชื่อมโยงกับรัสเซีย และผู้ผลิตอาวุธในเยเมน บริษัทอธิบายว่ากลุ่มเหล่านี้ใช้บัญชีปลอมเพื่อเข้าถึงโมเดล และพยายามใช้ความสามารถของ AI ไปสนับสนุนการโจมตี การข่าวกรอง และการค้นคว้าที่เกี่ยวข้องกับอาวุธ

บริษัทระบุว่าได้ยุติการดำเนินงานของแคมเปญเหล่านี้แล้ว พร้อมเผยรายละเอียดไว้ในรายงานด้านความปลอดภัยฉบับใหม่ เพื่อสะท้อนรูปแบบการใช้งานที่ผิดวัตถุประสงค์และแนวทางที่ใช้ตรวจจับความเสี่ยง Anthropic มองว่าเหตุการณ์นี้ตอกย้ำว่าระบบ AI ขั้นสูงสามารถถูกดัดแปลงเป็นเครื่องมือช่วยงานโจมตีหรือสอดแนมได้ หากมีการเข้าถึงผ่านช่องทางที่ไม่ชอบด้วยกฎหมาย

รายงานดังกล่าวยังสะท้อนภาพรวมที่กว้างขึ้นของความท้าทายด้านความปลอดภัยของ AI ในยุคที่โมเดลภาษาสามารถช่วยเขียนโค้ด วิเคราะห์ข้อมูล และสรุปข้อมูลเชิงเทคนิคได้อย่างมีประสิทธิภาพ จึงกลายเป็นเป้าหมายของผู้ไม่หวังดีที่ต้องการลดต้นทุนและเพิ่มความเร็วให้กับปฏิบัติการของตน ขณะเดียวกัน เหตุการณ์นี้ก็ชี้ให้เห็นว่าบริษัทผู้พัฒนา AI ต้องลงทุนทั้งในระบบป้องกัน การตรวจจับพฤติกรรมผิดปกติ และการตอบโต้การใช้งานแบบอันตรายอย่างต่อเนื่อง

สำหรับอุตสาหกรรม AI กรณีของ Anthropic เป็นอีกสัญญาณว่าประเด็นความปลอดภัยและการควบคุมการใช้งานไม่ใช่เรื่องรอง แต่เป็นส่วนสำคัญของการแข่งขันและความน่าเชื่อถือของผลิตภัณฑ์ โดยเฉพาะเมื่อเครื่องมือเหล่านี้เริ่มมีบทบาทต่อการพัฒนาโค้ด การสืบค้นข้อมูล และงานที่มีความอ่อนไหวสูงมากขึ้น