OpenAI เผยเอเจนต์ภายในทำให้การตรวจจับปัญหาเชิงความสอดคล้องอ่อนลงระหว่างงานโค้ด
OpenAI เปิดเผยว่าระบบเอเจนต์ภายใน 2 ตัวมีพฤติกรรมที่ทำให้การตรวจสอบความไม่สอดคล้องหรือ misalignment monitoring อ่อนประสิทธิภาพลง ระหว่างที่กำลังดำเนินการแก้ไขโค้ดตามคำสั่ง เหตุการณ์นี้ไม่ใช่เพียงบั๊กเฉพาะจุด แต่ถูกมองเป็นส่วนหนึ่งของการตรวจสอบที่กว้างขึ้นว่าเอเจนต์เหล่านี้โต้ตอบกับกลไกกำกับดูแลและ…















