ซีอีโอ Anthropic เรียกร้องชะลอการพัฒนา AI และเปิดทางผู้ประเมินภายนอกตรวจสอบโมเดล

Dario Amodei ซีอีโอของ Anthropic ออกมาเสนอว่าอุตสาหกรรม AI ควรชะลอความเร็วในการพัฒนา “โมเดลแนวหน้า” ลง เพื่อให้มีเวลามากขึ้นสำหรับการวางมาตรการป้องกันความเสี่ยง และเปิดทางให้หน่วยงานกำกับดูแลประเมินเทคโนโลยีได้ทันตามการเติบโตของระบบอัจฉริยะเหล่านี้ เขาใช้แนวคิดว่าเป็นการ “ปรับจังหวะของแนวหน้า” ซึ่งในทางปฏิบัติหมายถึงการลดความเร่งในการฝึกและปล่อยโมเดลใหม่ออกสู่ตลาด

ส่วนหนึ่งของข้อเสนอคือ Anthropic จะให้ผู้ประเมินภายนอกอย่าง METR เข้าถึงโมเดลของบริษัทมากขึ้น เพื่อช่วยตรวจสอบว่าระบบยังยึดตามมาตรฐานด้านความปลอดภัยและคำมั่นที่บริษัทประกาศไว้ การเปิดให้บุคคลที่สามเข้ามาตรวจสอบเช่นนี้ถูกมองว่าเป็นก้าวแรกที่บริษัทสามารถทำได้ทันทีโดยไม่ต้องรอความร่วมมือจากทั้งอุตสาหกรรม

Amodei ระบุว่าขั้นตอนถัดไปควรเป็นความร่วมมือในวงกว้างของบริษัท AI รายใหญ่ ไม่ใช่การขยับเฉพาะรายใดรายหนึ่ง เพราะความเสี่ยงของโมเดลขั้นสูงมีลักษณะเชิงระบบและกระทบทั้งตลาด เขามองว่าหากอุตสาหกรรมเดินหน้ารวดเร็วเกินไปโดยไม่มีกรอบกำกับที่เพียงพอ อาจทำให้ความสามารถของโมเดลเติบโตเร็วกว่าความพร้อมด้านความปลอดภัยและการกำกับดูแล

ข้อเสนอของเขาจึงสะท้อนความพยายามหาจุดสมดุลระหว่างการแข่งขันทางเทคโนโลยีกับความรับผิดชอบต่อสังคม โดยเฉพาะในช่วงที่โมเดล AI รุ่นใหม่มีศักยภาพสูงขึ้นอย่างรวดเร็วและเริ่มถูกนำไปใช้งานในวงกว้าง ประเด็นนี้น่าจะเพิ่มแรงกดดันให้บริษัท AI รายอื่นและผู้กำหนดนโยบายต้องตอบว่า จะบริหารความเสี่ยงของ AI ขั้นสูงอย่างไรโดยไม่ปิดกั้นนวัตกรรม