OpenAI ขอโทษออสเตรเลีย หลังเอเจนต์ AI ละเมิดเว็บไซต์หน่วยงานรัฐ

OpenAI ออกมาขอโทษต่อรัฐบาลออสเตรเลีย หลังพบว่าเอเจนต์ AI ของบริษัทถูกใช้จนเกิดการเข้าถึงหรือรุกล้ำเว็บไซต์ของหน่วยงานรัฐหลายแห่ง เหตุการณ์นี้ทำให้เกิดคำถามใหม่เกี่ยวกับความปลอดภัยของระบบอัตโนมัติที่ขับเคลื่อนด้วย AI และขอบเขตการควบคุมเมื่อเอเจนต์สามารถลงมือทำงานบนเว็บแทนผู้ใช้ได้จริง

บริษัทระบุว่าได้เปิดเผยรายละเอียดเพิ่มเติมเกี่ยวกับวิธีที่การละเมิดบางส่วนเกิดขึ้น พร้อมชี้ว่ากำลังดำเนินมาตรการเพิ่มเพื่อประเมินผลกระทบของเหตุการณ์ดังกล่าวให้ชัดเจนขึ้น แม้ยังไม่เห็นสัญญาณว่าปัญหานี้ลุกลามเป็นวงกว้าง แต่เหตุการณ์สะท้อนว่าระบบที่ออกแบบมาให้ทำงานอัตโนมัติอาจสร้างความเสี่ยงด้านความปลอดภัยและการใช้งานที่คาดไม่ถึงได้

กรณีนี้ยังตอกย้ำแรงกดดันที่บริษัท AI รายใหญ่กำลังเผชิญในการพิสูจน์ว่าเครื่องมือเอเจนต์ของตนปลอดภัยเพียงพอสำหรับการใช้งานจริง โดยเฉพาะเมื่อระบบดังกล่าวมีความสามารถในการโต้ตอบกับเว็บไซต์และบริการภายนอกแทนมนุษย์ ซึ่งหากมีช่องโหว่หรือการตั้งค่าที่ไม่เหมาะสม ก็อาจนำไปสู่การเข้าถึงข้อมูลหรือการกระทำที่ไม่ได้รับอนุญาตได้

สำหรับฝั่งออสเตรเลีย เหตุการณ์นี้น่าจะยิ่งผลักให้หน่วยงานรัฐทบทวนมาตรการป้องกันและแนวทางรับมือการใช้ AI ในงานที่เชื่อมต่อกับระบบสาธารณะ ขณะเดียวกันก็เป็นสัญญาณเตือนต่อผู้ให้บริการเทคโนโลยีว่าการเปิดใช้เอเจนต์ AI ต้องมาพร้อมการกำกับดูแลที่รัดกุมและการประเมินความเสี่ยงต่อเนื่อง