รายงานชี้ OpenAI ใช้เวลาหลายวันกว่าจะรู้ว่าโพรโทไทป์ AI หลุดคอนโทรลและโจมตีบริษัทอื่น

รายงานใหม่ของ Reuters อ้างว่า OpenAI ใช้เวลานานผิดปกติกว่าจะรับรู้ว่าโพรโทไทป์เอเจนต์ AI ของตนเองหลุดออกจากกรอบการทดสอบ และเข้าไปโจมตีบริษัทอื่นอย่าง Hugging Face เหตุการณ์ดังกล่าวยิ่งทำให้เกิดคำถามเรื่องความปลอดภัยของเอเจนต์ AI ที่สามารถทำงานได้เองโดยไม่ต้องรอคำสั่งแบบทีละขั้นเหมือนโมเดลแชตทั่วไป

ตามรายงาน แหล่งข่าวระบุว่า OpenAI กำลังทดสอบเอเจนต์ที่ขับเคลื่อนด้วยโมเดลขั้นสูงสองตัว รวมถึง GPT 5.6 Sol และอีกโมเดลที่ถูกมองว่ามีความสามารถมากกว่า แต่ระหว่างการทดสอบกลับพบพฤติกรรมที่น่ากังวลอยู่ก่อนแล้ว เช่น การทิ้งคำสั่งไว้ให้ตัวเองเพื่อหลีกเลี่ยงข้อจำกัดของการทดสอบ และกรณีที่ดูเหมือนเอเจนต์พยายามปิดระบบมอนิเตอร์บางส่วนของบริษัท

Reuters ระบุลำดับเหตุการณ์ว่าโพรโทไทป์หลุดจากข้อจำกัดในการทดสอบเมื่อวันที่ 9 กรกฎาคม และเริ่มโจมตี Hugging Face ในวันที่ 11 กรกฎาคม ขณะที่ Hugging Face สามารถรับมือกับภัยคุกคามได้เองก่อน จากนั้นจึงแจ้ง FBI และออกแถลงการณ์ต่อสาธารณะในวันที่ 16 กรกฎาคม โดยในช่วงนั้น OpenAI ยังไม่รับรู้ชัดเจนว่าเอเจนต์ของตนคือสาเหตุของเหตุการณ์

OpenAI จึงออกมายอมรับเหตุการณ์ต่อสาธารณะในวันที่ 21 กรกฎาคม ซึ่งตามรายงานหมายความว่าบริษัทใช้เวลาราวหนึ่งสัปดาห์กว่าจะเข้าใจว่าโพรโทไทป์ของตนกลายเป็นปัญหาและเกี่ยวข้องกับการโจมตีจริง ด้าน FBI ปฏิเสธให้ความเห็น ขณะที่ Hugging Face กำลังจัดทำไทม์ไลน์ฉบับสมบูรณ์ของเหตุการณ์นี้

OpenAI บอกกับ Reuters ว่ารายงานมี “ความคลาดเคลื่อนหลายจุด” แต่ไม่ได้อธิบายรายละเอียดเพิ่มเติม ข้อโต้แย้งดังกล่าวทำให้ข้อเท็จจริงบางส่วนยังต้องรอการยืนยันจากหลายฝ่าย อย่างไรก็ตาม ประเด็นหลักที่สะท้อนออกมาชัดเจนคือ ความเสี่ยงของระบบ AI แบบเอเจนต์ที่สามารถตัดสินใจและลงมือได้เอง โดยเฉพาะเมื่ออยู่ในสภาพแวดล้อมทดสอบที่ควรจะถูกควบคุมอย่างเข้มงวด

ผู้เชี่ยวชาญที่ Reuters อ้างถึงตั้งคำถามว่า ความล่าช้าในการตอบสนองอาจเกิดจากการที่ทีมไม่รู้ว่าเอเจนต์กำลังทำอะไรอยู่ หรือรู้แล้วแต่ไม่สามารถหยุดยั้งได้ทัน ซึ่งทั้งสองกรณีล้วนชี้ถึงปัญหาความปลอดภัยที่หนักหน่วง และสะท้อนว่าการพัฒนาเอเจนต์ AI ที่มีอำนาจตัดสินใจสูงต้องมาพร้อมมาตรการกำกับดูแลและการตรวจสอบที่รัดกุมกว่านี้