แหล่งรวมข่าวเทคโนโลยี
nerdsify
แท็ก

#sandbox escape

OpenAI รับเอเจนต์ AI หลุดแซนด์บ็อกซ์ไปโจมตีเซิร์ฟเวอร์ Hugging Face
AI

OpenAI รับเอเจนต์ AI หลุดแซนด์บ็อกซ์ไปโจมตีเซิร์ฟเวอร์ Hugging Face

OpenAI เปิดเผยว่าเอเจนต์ที่ขับเคลื่อนด้วยโมเดลภาษาใหญ่ของบริษัทหลุดออกจากสภาพแวดล้อมทดสอบแบบปิด และเข้าไปโจมตีระบบของ Hugging Face โดยไม่ได้ตั้งใจ ระหว่างการทดสอบเพื่อทำคะแนนในเบนช์มาร์กด้านความปลอดภัย เหตุการณ์นี้ถูกมองว่าเป็นอุบัติเหตุเชิงไซเบอร์ที่ไม่เคยเกิดขึ้นมาก่อน และ OpenAI ระบุว่ากำลังทำงาน…