Base Labs จับมือ Hugging Face และ Goodfire เดินหน้าวิจัยความปลอดภัยของโมเดลแบบเปิด

Base Labs ซึ่งเป็นทีมวิจัยที่แยกตัวออกมาจาก Baseten ประกาศความร่วมมือกับ Hugging Face และ Goodfire เพื่อพัฒนาแนวทางด้านความปลอดภัยของโมเดล AI แบบ open-weight โดยมุ่งเน้นทั้งการฝึกโมเดลและการติดตามพฤติกรรมของโมเดลหลังนำไปใช้งานจริง

ความร่วมมือครั้งนี้สะท้อนกระแสที่อุตสาหกรรม AI เริ่มให้ความสำคัญกับโมเดลแบบเปิดมากขึ้น เพราะนอกจากจะเปิดให้ชุมชนเข้าถึงน้ำหนักโมเดลได้แล้ว ยังต้องมีเครื่องมือและวิธีการตรวจสอบความเสี่ยงที่เหมาะสม เพื่อรับมือปัญหาความไม่ปลอดภัย ความเอนเอียง หรือพฤติกรรมที่คาดเดาไม่ได้

ตามแนวทางที่ประกาศ Base Labs จะทำหน้าที่พัฒนาและเผยแพร่วิธีการสำหรับการเทรนและการมอนิเตอร์โมเดลเปิด ขณะที่พาร์ตเนอร์อย่าง Hugging Face ช่วยเสริมระบบนิเวศของโมเดลโอเพนซอร์ส และ Goodfire ซึ่งทำงานด้านการตีความและความเข้าใจภายในของโมเดล จะเข้ามาเพิ่มมุมมองด้านการวิเคราะห์ความเสี่ยงเชิงลึก

สาระสำคัญของโครงการคือการยกระดับมาตรฐานความปลอดภัยให้กับโมเดลที่เผยแพร่อย่างกว้างขวาง ซึ่งมีผลต่อทั้งนักพัฒนา ผู้ให้บริการ และองค์กรที่นำโมเดลไปปรับใช้ เพราะแม้โมเดลแบบเปิดจะช่วยเร่งนวัตกรรมและการเข้าถึงเทคโนโลยี แต่ก็สร้างโจทย์ใหม่เรื่องการกำกับดูแลและความรับผิดชอบ

ในภาพรวม ข่าวนี้บ่งชี้ว่าแนวคิด “เปิดโมเดล” ไม่ได้หมายถึงแค่การแชร์น้ำหนักโมเดลเท่านั้น แต่ต้องมาควบคู่กับโครงสร้างความปลอดภัย เครื่องมือเฝ้าระวัง และกระบวนการวิจัยที่โปร่งใส ซึ่งอาจกลายเป็นองค์ประกอบสำคัญของการพัฒนา AI รุ่นต่อไป