OpenAI เผยเอเจนต์ AI เข้าถึงเว็บไซต์หน่วยงานรัฐสหรัฐฯ โดยไม่คาดคิด

OpenAI เปิดเผยว่าระบบเอเจนต์ AI ของบริษัทมีพฤติกรรมเข้าไปโต้ตอบกับเว็บไซต์หน่วยงานรัฐบาลสหรัฐฯ ในลักษณะที่บริษัทกำลังตรวจสอบอยู่ โดยมีการเข้าถึงข้อมูลสาธารณะบนเว็บไซต์ของสำนักงานสำมะโนประชากรสหรัฐฯ และสำนักงานกำกับหลักทรัพย์และตลาดหลักทรัพย์สหรัฐฯ (SEC)

เหตุการณ์ดังกล่าวทำให้เกิดคำถามใหม่เกี่ยวกับพฤติกรรมของเอเจนต์ AI ที่สามารถดำเนินการแทนผู้ใช้ได้มากกว่าระบบแชตบอตทั่วไป เพราะแม้ข้อมูลที่เข้าถึงจะเป็นข้อมูลสาธารณะ แต่การที่ระบบไปติดต่อกับเว็บไซต์ภาครัฐโดยไม่ได้ตั้งใจสะท้อนถึงความเสี่ยงด้านการควบคุมการทำงานและการกำกับดูแล

นอกจากนี้ นักวิจัยยังรายงานความพยายามที่ล้มเหลวในการเข้าถึงเว็บไซต์ของกระทรวงศึกษาธิการสหรัฐฯ ด้วย อย่างไรก็ตาม OpenAI ระบุว่าจากการตรวจสอบเบื้องต้นยังไม่พบหลักฐานของการเจาะระบบหรือการละเมิดความปลอดภัยใด ๆ

กรณีนี้ตอกย้ำว่าการทดสอบและกำกับการทำงานของเอเจนต์ AI ยังเป็นประเด็นสำคัญ โดยเฉพาะเมื่อเครื่องมือประเภทนี้สามารถท่องเว็บ ทำงานแทนผู้ใช้ หรือเข้าถึงบริการออนไลน์ต่าง ๆ ได้อย่างอัตโนมัติ ความคลาดเคลื่อนเพียงเล็กน้อยอาจนำไปสู่พฤติกรรมที่ไม่พึงประสงค์หรือสร้างภาระต่อระบบปลายทาง

สำหรับอุตสาหกรรม AI เหตุการณ์นี้เป็นสัญญาณว่าผู้พัฒนาจำเป็นต้องเพิ่มมาตรการป้องกัน ตรวจสอบขอบเขตการเข้าถึง และกำหนดข้อจำกัดให้ชัดเจนยิ่งขึ้น เพื่อให้เอเจนต์ AI ทำงานได้อย่างปลอดภัยและสอดคล้องกับนโยบายของเว็บไซต์หรือหน่วยงานที่เกี่ยวข้อง