Anthropic เปิดทางผู้ประเมินภายนอกเข้าถึงระบบภายในแบบใกล้ชิดเพื่อประเมินความเสี่ยง AI

Anthropic เดินหน้ามาตรการเพิ่มความปลอดภัยของโมเดล AI ด้วยการให้ผู้ประเมินภายนอกจากองค์กรไม่แสวงกำไร METR ได้รับสิทธิ์เข้าถึงในระดับที่ใกล้เคียงพนักงาน เพื่อใช้ตรวจสอบและประเมินความเสี่ยงของระบบอย่างละเอียดมากขึ้น ข้อมูลดังกล่าวสะท้อนว่า บริษัทต้องการสร้างกลไกกำกับดูแลที่เข้มงวดขึ้นท่ามกลางความกังวลที่เพิ่มขึ้นว่า AI ที่มีความสามารถสูงอาจควบคุมยากหรือสร้างผลกระทบรุนแรงได้ในอนาคต

METR เป็นองค์กรที่เคยทำงานร่วมกับห้องแล็บ AI รายใหญ่หลายแห่ง ทั้ง OpenAI, Anthropic, Google และ Meta โดยครั้งนี้ทีมของ METR ถูกวางตัวอยู่ภายในสำนักงานของ Anthropic และได้รับสิทธิ์เข้าถึงทั้งฮาร์ดแวร์และระบบภายในของบริษัท เพื่อให้การประเมินมีความลึกและใกล้ชิดกับกระบวนการพัฒนาโมเดลจริงมากกว่าการทดสอบจากภายนอกเพียงอย่างเดียว

ความเคลื่อนไหวนี้เกิดขึ้นในบริบทที่อุตสาหกรรม AI เผชิญแรงกดดันให้เพิ่มความโปร่งใสและการตรวจสอบจากบุคคลที่สามมากขึ้น หลังจากมีความกังวลว่าโมเดลรุ่นใหม่อาจส่งผลต่อเศรษฐกิจ ความมั่นคงปลอดภัยไซเบอร์ และในภาพรวมอาจกระทบต่อสังคมวงกว้างได้ หากปล่อยให้พัฒนาและนำไปใช้อย่างรวดเร็วโดยไม่มีมาตรการคุมความเสี่ยงที่เหมาะสม

สำหรับ Anthropic การเปิดพื้นที่ให้ผู้ประเมินอิสระเข้ามามีบทบาทเชิงลึกถือเป็นสัญญาณว่า บริษัทพยายามผลักดันแนวทาง AI safety ให้เป็นส่วนหนึ่งของการทำงานหลัก ไม่ใช่เพียงขั้นตอนเสริมปลายทาง จุดนี้ยังสอดคล้องกับความพยายามของหลายแล็บชั้นนำที่ประกาศว่าจะยกระดับการประเมินความสามารถและความเสี่ยงของโมเดลก่อนปล่อยใช้งานจริง

แม้ข่าวนี้ไม่ได้ระบุผลการทดสอบหรือข้อค้นพบเฉพาะเจาะจง แต่สาระสำคัญคือการสร้างแบบอย่างใหม่ของการตรวจสอบจากภายนอกในระดับที่ลึกกว่าที่เคยมีมา ซึ่งอาจช่วยเพิ่มความเชื่อมั่นต่อการพัฒนา AI ของบริษัท และสะท้อนทิศทางที่อุตสาหกรรมกำลังหันไปใช้กลไกกำกับดูแลที่จริงจังมากขึ้นเพื่อรับมือกับความเสี่ยงเชิงระบบจาก AI รุ่นต่อไป