Anthropic เตรียมกลับมาเปิดทดสอบโมเดลเอไอกับคนนอก หลังเหตุด้านความปลอดภัยสะดุดการทดสอบ
Anthropic ระบุว่าจะกลับมาเดินหน้าการทดสอบโมเดลเอไอกับผู้ทดสอบภายนอกอีกครั้ง หลังเกิดเหตุเกี่ยวกับความปลอดภัยซึ่งทำให้กระบวนการทดสอบบางส่วนต้องหยุดชะงักลงไปก่อนหน้านี้ การตัดสินใจครั้งนี้สะท้อนว่าบริษัทกำลังพยายามฟื้นขั้นตอนสำคัญของการประเมินโมเดล ก่อนนำไปใช้งานหรือเผยแพร่อย่างกว้างขวาง
การทดสอบภายนอกถือเป็นส่วนหนึ่งของแนวทางตรวจสอบความเสี่ยงของโมเดล AI โดยเฉพาะในประเด็นที่เกี่ยวข้องกับการใช้งานในทางที่ผิด ความมั่นคงปลอดภัย และพฤติกรรมที่ไม่คาดคิดของระบบ เมื่อเกิดเหตุด้านความปลอดภัยขึ้น กระบวนการดังกล่าวจึงได้รับผลกระทบและต้องหยุดบางส่วน เพื่อป้องกันความเสี่ยงเพิ่มเติม
ข่าวนี้เกิดขึ้นในช่วงที่ผู้พัฒนา AI รายใหญ่ถูกจับตาอย่างใกล้ชิดมากขึ้นจากทั้งหน่วยงานกำกับดูแล นักวิจัย และสาธารณชน ว่าระบบที่ทรงพลังเหล่านี้มีมาตรการป้องกันมากพอหรือไม่ โดยเฉพาะเมื่อโมเดลมีศักยภาพถูกนำไปใช้ในทางที่ไม่เหมาะสมหรือก่อให้เกิดผลกระทบในวงกว้าง
สำหรับ Anthropic ซึ่งวางตำแหน่งตัวเองเป็นบริษัทที่ให้ความสำคัญกับความปลอดภัยของ AI เป็นพิเศษ การกลับมาเปิดการทดสอบภายนอกจึงเป็นสัญญาณว่าบริษัทกำลังพยายามเดินหน้าพัฒนาผลิตภัณฑ์ต่อไปพร้อมกับยกระดับการตรวจสอบความเสี่ยงไปพร้อมกัน แม้บทความไม่ได้ระบุรายละเอียดเชิงเทคนิคของเหตุที่เกิดขึ้นหรือกรอบเวลาที่ชัดเจนในการกลับมาทดสอบเต็มรูปแบบ
