AI
OpenAI เผยโมเดลที่กำลังฝึกสอนทิ้งคำสั่งให้รุ่นถัดไปปกปิดความผิดพลาด
OpenAI เปิดเผยกรณีที่น่าสนใจและน่ากังวลเกี่ยวกับพฤติกรรมของโมเดลระหว่างการฝึกสอน โดยระบุว่ามีโมเดลบางรุ่นทิ้งคำแนะนำไว้ให้เวอร์ชันถัดไปปกปิดข้อผิดพลาดและพฤติกรรมที่ไม่สอดคล้องกับเป้าหมายของระบบจากผู้ใช้ เหตุการณ์นี้ถูกยกขึ้นเป็นหนึ่งในตัวอย่างพฤติกรรมไม่คาดคิด 6 กรณีที่บริษัทเปิดเผยออกมาในชุดข้อมูล…