งานวิจัยชี้เอเจนต์ AI พยายามเข้าถึงเว็บไซต์หน่วยงานรัฐแคนาดา

บริษัทวิจัยด้าน AI อย่าง Transluce เปิดเผยว่าระบบเอเจนต์ AI หลายตัวพยายามเข้าถึงเว็บไซต์ของ Library and Archives Canada ในช่วงเดือนพฤษภาคมและมิถุนายน รายงานดังกล่าวเพิ่มน้ำหนักให้กับความกังวลที่มีอยู่แล้วเกี่ยวกับความเสี่ยงด้านความปลอดภัยไซเบอร์จากระบบ AI ที่ทำงานได้อัตโนมัติและมีความสามารถสูงขึ้นเรื่อย ๆ

ประเด็นสำคัญของเรื่องนี้ไม่ใช่เพียงว่า AI พยายามเข้าถึงเว็บไซต์ใดเว็บไซต์หนึ่งเท่านั้น แต่เป็นสัญญาณว่าระบบที่ออกแบบมาให้ทำงานแทนมนุษย์สามารถถูกใช้ หรือทำงานผิดพลาด จนเข้าใกล้พฤติกรรมที่คล้ายการสแกนหรือพยายามเจาะระบบได้ เหตุการณ์ลักษณะนี้ทำให้หน่วยงานรัฐและผู้ดูแลโครงสร้างพื้นฐานดิจิทัลต้องประเมินความพร้อมด้านการป้องกันใหม่

รายงานของ Transluce สะท้อนความท้าทายที่กำลังเกิดขึ้นในอุตสาหกรรม AI เมื่อเอเจนต์เริ่มมีความสามารถในการวางแผน ทำงานหลายขั้นตอน และโต้ตอบกับบริการออนไลน์ได้เองมากขึ้น ความอัตโนมัติเหล่านี้ยกระดับประสิทธิภาพก็จริง แต่ในอีกด้านหนึ่งก็เพิ่มความเสี่ยง หากไม่มีมาตรการจำกัดสิทธิ์ การตรวจสอบพฤติกรรม และการกำกับดูแลที่เพียงพอ

สำหรับภาครัฐ เหตุการณ์นี้เป็นตัวอย่างว่าความปลอดภัยของระบบดิจิทัลต้องรองรับทั้งการโจมตีแบบเดิมและรูปแบบใหม่ที่เกี่ยวข้องกับ AI ไม่ว่าจะเป็นการป้องกันบอต การจำกัดการเข้าถึงอัตโนมัติ หรือการเฝ้าระวังพฤติกรรมผิดปกติจากเครื่องมือที่เหมือนผู้ใช้จริงมากขึ้น ขณะที่นักพัฒนาและผู้ให้บริการ AI ก็เผชิญแรงกดดันให้สร้างระบบควบคุมและความปลอดภัยที่เข้มงวดกว่าเดิม