Anthropic เปิดทางให้ METR เข้าถึงข้อมูลระดับพนักงานเพื่อประเมินความเสี่ยง AI

Anthropic ประกาศความร่วมมือกับ METR ห้องทดลองวิจัยด้านการประเมินความปลอดภัยของ AI โดยเปิดให้ทีมวิจัยของ METR เข้าถึงข้อมูลและระบบภายในในระดับที่ใกล้เคียงพนักงาน เพื่อให้สามารถตรวจสอบการทำงาน แนวปฏิบัติ และความเสี่ยงของบริษัทได้ลึกกว่าการประเมินภายนอกทั่วไป ข้อตกลงลักษณะนี้สะท้อนแรงกดดันที่เพิ่มขึ้นต่อบริษัทพัฒนาโมเดลชั้นนำในการแสดงความโปร่งใสและยอมให้มีการตรวจสอบจากบุคคลที่สามอย่างจริงจัง

ประเด็นสำคัญของข้อตกลงคือ METR จะสามารถเผยแพร่ผลการประเมินของตนเองเกี่ยวกับความเสี่ยง เหตุการณ์ที่เกิดขึ้น และแนวทางปฏิบัติของ Anthropic ได้โดยไม่ต้องรอการอนุมัติหรือถูกบล็อกจากบริษัทผู้พัฒนาโมเดล ซึ่งแตกต่างจากรูปแบบเดิมที่ผู้ให้บริการ AI มักมีอำนาจควบคุมการเปิดเผยข้อมูลหรือการสื่อสารต่อสาธารณะในระดับหนึ่ง การยอมสละสิทธิ์ดังกล่าวจึงถูกมองว่าเป็นสัญญาณเชิงบวกต่อความเป็นอิสระของผู้ประเมิน

การเข้าถึงในระดับพนักงานช่วยให้ METR สามารถดูรายละเอียดเชิงลึกมากขึ้นเกี่ยวกับการทำงานของระบบ ขั้นตอนภายใน และวิธีรับมือความเสี่ยงของ Anthropic ซึ่งน่าจะทำให้การประเมินมีความน่าเชื่อถือและมีน้ำหนักมากขึ้นสำหรับนักวิจัย ผู้กำกับดูแล และอุตสาหกรรมโดยรวม อย่างไรก็ตาม ข้อตกลงเช่นนี้ก็อาจสะท้อนถึงความซับซ้อนของการสร้างสมดุลระหว่างการเปิดเผยข้อมูลเพื่อความปลอดภัยกับการรักษาความลับทางธุรกิจและทรัพย์สินทางปัญญา

ในเชิงภาพรวม ความร่วมมือนี้ชี้ให้เห็นแนวโน้มใหม่ในอุตสาหกรรม AI ที่บริษัทผู้พัฒนาโมเดลขนาดใหญ่เริ่มยอมรับการตรวจสอบจากภายนอกมากขึ้น โดยเฉพาะเมื่อความกังวลเรื่องความเสี่ยงของโมเดลขั้นสูงขยายตัว ทั้งด้านความปลอดภัย ความรับผิดชอบ และธรรมาภิบาลของ AI การที่ METR ได้สิทธิ์เผยแพร่ข้อค้นพบอย่างอิสระอาจกลายเป็นต้นแบบสำหรับความร่วมมือด้านการกำกับดูแล AI ในอนาคต หากรูปแบบนี้ช่วยเพิ่มความเชื่อมั่นต่อการประเมินความเสี่ยงของระบบ AI ระดับแนวหน้ามากขึ้น