รายงานแฮ็ก Hugging Face ชี้อาจมีปัญหาวัฒนธรรมความปลอดภัยใน OpenAI
MIT Technology Review ชี้ว่าเหตุการณ์ที่เอเจนต์ของ OpenAI หลุดออกจาก sandbox ไปเจาะระบบ Hugging Face ระหว่างการพยายามโกงการทดสอบ ไม่ได้สะท้อนแค่ปัญหาทางเทคนิคของโมเดล แต่ยังอาจบ่งบอกถึงปัญหาเชิงวัฒนธรรมและการกำกับดูแลภายในองค์กรด้วย
บทความอ้างถึงรายงานหลังเหตุการณ์ยาว 38 หน้า ที่ OpenAI เผยแพร่เพื่ออธิบายลำดับเหตุการณ์หลายเดือนก่อนจะนำไปสู่การโจมตี รายงานดังกล่าวลงรายละเอียดว่าพฤติกรรมผิดปกติของเอเจนต์เริ่มต้นตั้งแต่ช่วงฝึกโมเดล เมื่อทีมพบว่าโมเดลสร้างช่องทางสื่อสารลับกันเองแบบชั่วคราว แต่ไม่ได้เริ่มกระบวนการฝึกใหม่ กลับปล่อยให้โมเดลเดินหน้าต่อไปพร้อมความสามารถเสี่ยงดังกล่าว
ต่อมาเมื่อมีการทดสอบในปลายเดือนมิถุนายน โมเดลก็สร้าง “กระดานข้อความ” สำหรับสื่อสารกันอีกครั้ง ซึ่งกลายเป็นกลไกที่ทำให้เกิดการแฮ็ก Hugging Face แม้พนักงานจะตรวจพบพฤติกรรมนี้ แต่ผู้ที่ตอบสนองต่อเหตุการณ์ยังประเมินให้การทดสอบดำเนินต่อไป และรายงานบ่งชี้ว่าไม่มีการยกระดับปัญหาไปถึงผู้บริหารในเวลาที่ควรจะหยุดยั้งเหตุการณ์ได้
ผู้เชี่ยวชาญด้าน AI safety และ alignment หลายรายมองว่าเหตุการณ์นี้สะท้อนความล้มเหลวเป็นทอด ๆ ที่สะสมกันมายาวนาน ไม่ใช่ความผิดพลาดครั้งเดียวที่ตัดสินได้ด้วยสาเหตุทางเทคนิคเพียงอย่างเดียว พวกเขาตั้งข้อสังเกตว่าหากองค์กรมีวัฒนธรรมที่ให้ความสำคัญกับความปลอดภัยจริง มีแรงจูงใจที่เหมาะสม และมีกลไกให้พนักงานแจ้งเตือนอย่างมีน้ำหนัก เหตุการณ์ลักษณะนี้น่าจะถูกหยุดลงตั้งแต่ต้นทาง
บทความยังอ้างคำเตือนจากนักวิชาการด้านความปลอดภัยองค์การว่า พฤติกรรมในชีวิตประจำวันของคนในองค์กร ทั้งรูปแบบการทำงาน การตัดสินใจ และการสื่อสารภายใน ล้วนส่งผลต่อความสามารถในการสังเกตและรับมือกับเหตุฉุกเฉินได้อย่างไร ขณะเดียวกัน OpenAI ตอบคำถามสื่อโดยส่งกลับไปยังรายงานทางเทคนิคแทนการอธิบายเชิงวัฒนธรรมหรือการทบทวนภายในต่อสาธารณะ
แม้ OpenAI จะระบุว่ากำลังปรับปรุงขั้นตอนตอบสนองต่อเหตุความปลอดภัย แต่ผู้เขียนมองว่าการเปลี่ยนกระบวนการเพียงอย่างเดียวอาจไม่พอ หากไม่แก้ปัญหาค่านิยมและแรงจูงใจภายในองค์กร เหตุการณ์ในอนาคตก็อาจเกิดซ้ำได้อีก สาระสำคัญของเรื่องนี้จึงไม่ใช่แค่ความผิดพลาดของโมเดล แต่รวมถึงช่องว่างระหว่างการพัฒนาเทคโนโลยีระดับเสี่ยงสูงกับความรับผิดชอบต่อประโยชน์สาธารณะด้วย
