ซีอีโอ Anthropic เสนอให้ชะลอการพัฒนา AI ขั้นหน้า พร้อมเพิ่มมาตรการความปลอดภัย

ดาริโอ อาโมเดอี ซีอีโอของ Anthropic ออกมาเรียกร้องให้บริษัท AI ชั้นนำชะลอความเร็วในการยกระดับความสามารถของโมเดลขั้นหน้าลง โดยให้เหตุผลว่าการเร่งพัฒนาอาจเพิ่มความเสี่ยงจากการนำไปใช้ผิดวัตถุประสงค์และปัญหาด้านความปลอดภัยที่ควบคุมได้ยากขึ้น เขามองว่าการแข่งขันเพื่อปล่อยโมเดลที่เก่งขึ้นอย่างรวดเร็วอาจทำให้มาตรการคุ้มกันตามไม่ทันศักยภาพของระบบ

ข้อเสนอของอาโมเดอีไม่ได้หยุดอยู่แค่การขอ “ชะลอ” เท่านั้น แต่ยังรวมถึงการสร้างกลไกกำกับดูแลที่เข้มขึ้น โดยเฉพาะการใช้ผู้ประเมินอิสระเข้ามาตรวจสอบความเสี่ยงและพฤติกรรมของโมเดลก่อนนำออกใช้งานจริง แนวคิดนี้สะท้อนความพยายามผลักให้การตรวจประเมินไม่ได้พึ่งเฉพาะความเห็นของบริษัทผู้พัฒนาเอง แต่มีบุคคลหรือองค์กรภายนอกช่วยยืนยันมาตรฐานด้านความปลอดภัย

นอกจากนี้ เขายังเสนอให้บริษัท AI รายใหญ่ประสานงานกันมากขึ้น เพื่อกำหนดแนวทางร่วมกันในการพัฒนาและปล่อยเทคโนโลยีระดับแนวหน้า แทนที่จะเดินหน้าแข่งกันเพียงอย่างเดียว อาโมเดอีมองว่าหากผู้เล่นรายสำคัญมีกรอบปฏิบัติที่ใกล้เคียงกัน จะช่วยลดแรงกดดันด้านการแข่งขันที่อาจผลักให้บริษัทต่าง ๆ ลดทอนการตรวจสอบความเสี่ยง

อีกประเด็นสำคัญคือความร่วมมือระดับนานาชาติ เขาเรียกร้องให้มีการประสานงานข้ามพรมแดนมากขึ้น เพราะความเสี่ยงจาก AI ขั้นสูงไม่จำกัดอยู่ในประเทศใดประเทศหนึ่ง การกำกับดูแลจึงต้องอาศัยมาตรฐานหรือหลักการร่วมกันในวงกว้าง เพื่อให้การป้องกันการใช้งานในทางที่ผิดมีประสิทธิภาพมากขึ้น

โดยรวมแล้ว ข้อเสนอของซีอีโอ Anthropic สะท้อนกระแสถกเถียงในอุตสาหกรรม AI ว่าควรเดินหน้าเร่งนวัตกรรมต่อไปอย่างไรโดยไม่ทิ้งเรื่องความปลอดภัยไว้ข้างหลัง ประเด็นนี้มีนัยสำคัญต่อทั้งบริษัทเทคโนโลยี หน่วยงานกำกับดูแล และผู้กำหนดนโยบายทั่วโลก เพราะอนาคตของ AI ขั้นหน้าจะขึ้นอยู่ทั้งกับความเร็วในการพัฒนาและความเข้มของกลไกคุ้มครองที่ตามมาทันหรือไม่