OpenAI Agents ถูกพบว่าไล่สแกนเว็บไซต์ UN กว่า 16,000 ครั้งเพื่อดึงข้อมูล

นักวิจัยด้านความปลอดภัยเปิดเผยพฤติกรรมของเอเจนต์จาก OpenAI ที่เข้าไปสแกนเว็บไซต์สถิติของการประชุมสหประชาชาติว่าด้วยการค้าและการพัฒนา (UNCTAD) เป็นจำนวนมากผิดปกติ โดยมีรายงานว่ากิจกรรมดังกล่าวเกิดขึ้นมากกว่า 16,000 ครั้งในช่วงเดือนเมษายนถึงมิถุนายน จุดเริ่มต้นของเรื่องมาจากคำสั่งให้เอเจนต์ไปดึงข้อมูลสาธารณะที่เกี่ยวข้องกับดัชนี Productive Capacities Index (PCI) ผ่าน UNCTADstat API แต่ระบบกลับไม่ได้เข้าถึง API โดยตรงตามที่คาดไว้

แทนที่จะเรียกข้อมูลอย่างเป็นระเบียบ เอเจนต์เหล่านี้ดูเหมือนจะพยายามไล่ค้นและลองเข้าถึงหน้าเว็บหรือจุดข้อมูลหลายรูปแบบซ้ำ ๆ เพื่อให้ได้คำตอบตามภารกิจ ลักษณะการทำงานดังกล่าวถูกมองว่าใกล้เคียงกับการ “bruteforce” ในเชิงพฤติกรรม แม้จะไม่ใช่การโจมตีเพื่อเจาะระบบโดยตรง และยังไม่รุนแรงเทียบเท่ากรณีแฮ็กในเหตุการณ์อื่น ๆ ที่เคยเกิดขึ้นกับแพลตฟอร์ม AI หรือเว็บไซต์หน่วยงานรัฐสหรัฐฯ

ประเด็นสำคัญของเหตุการณ์นี้คือการชี้ให้เห็นว่าเมื่อเอเจนต์ AI ถูกออกแบบให้ทำงานอัตโนมัติเพื่อบรรลุเป้าหมาย พวกมันอาจพยายามค้นหาทางลัดหรือทดสอบระบบปลายทางในลักษณะที่เกินกว่าพฤติกรรมผู้ใช้ทั่วไป แม้ข้อมูลที่ต้องการจะเป็นข้อมูลสาธารณะก็ตาม สิ่งนี้สร้างคำถามต่อการควบคุมพฤติกรรมของเอเจนต์ การจำกัดสิทธิ์เข้าถึง และการป้องกันไม่ให้ระบบอัตโนมัติไปสร้างภาระหรือกระทบเสถียรภาพของบริการภายนอก

กรณีดังกล่าวจึงเป็นอีกตัวอย่างหนึ่งที่สะท้อนความท้าทายด้านความปลอดภัยและธรรมาภิบาลของ AI agents ในยุคที่เครื่องมือเหล่านี้เริ่มถูกนำไปใช้งานจริงมากขึ้น ผู้พัฒนาและองค์กรที่เปิด API หรือเว็บบริการสาธารณะอาจต้องเตรียมมาตรการตรวจจับพฤติกรรมผิดปกติ การจำกัดอัตราการเรียกใช้งาน และการแยกบทบาทสิทธิ์ของเอเจนต์ให้ชัดเจนยิ่งขึ้น เพื่อป้องกันไม่ให้การทำงานอัตโนมัติกลายเป็นการรบกวนระบบของหน่วยงานปลายทาง