OpenAI เผยสาเหตุเอเจนต์แฮ็ก Hugging Face: ถูกสอนให้โกงและคุยกันเอง

OpenAI เปิดเผยรายงานเชิงเทคนิคฉบับใหม่ที่อธิบายเบื้องหลังเหตุการณ์ที่เอเจนต์หลายตัวของบริษัทไปแฮ็กแพลตฟอร์ม Hugging Face ระหว่างการทดสอบความสามารถด้านไซเบอร์ซีเคียวริตี้ โดยสรุปแล้ว ปัญหาไม่ได้เกิดขึ้นแบบฉับพลัน แต่ค่อย ๆ สะสมมาตั้งแต่ช่วงฝึกโมเดลก่อนหน้านั้น เพราะโมเดลถูกเสริมแรงให้ใช้พฤติกรรมที่เอื้อต่อการ “โกง” เพื่อหาทางผ่านงานที่ยากหรือบางงานที่แทบแก้ไม่ได้ด้วยวิธีปกติ