ซีอีโอ Anthropic ชี้ควรชะลอการพัฒนา AI ระดับแนวหน้า

Dario Amodei ซีอีโอของ Anthropic ออกมาเสนอแนวทาง 3 ขั้นเพื่อควบคุมจังหวะการพัฒนา “frontier models” หรือโมเดล AI ระดับแนวหน้าที่มีความสามารถสูงขึ้นอย่างรวดเร็ว โดยใจความสำคัญคืออุตสาหกรรมควรให้เวลาเพิ่มขึ้นเพื่อรับมือความเสี่ยงจากการนำ AI ไปใช้ในทางที่ผิด และเพื่อยกระดับมาตรการป้องกันให้ตามทันความสามารถของระบบที่กำลังพัฒนา

แนวคิดของ Amodei สะท้อนความกังวลว่าความก้าวหน้าของโมเดลสมัยใหม่ไม่ได้เพิ่มขึ้นแค่ด้านประสิทธิภาพ แต่ยังทำให้ระบบมีอิสระในการตัดสินใจและลงมือทำมากขึ้น ซึ่งอาจขยายความเสี่ยงด้านความปลอดภัย การใช้งานเชิงอันตราย และผลกระทบต่อสังคม หากการกำกับดูแลและเครื่องมือป้องกันยังตามไม่ทัน

ข้อเสนอของเขาจึงไม่ได้เป็นการเรียกร้องให้หยุดพัฒนา AI โดยสิ้นเชิง แต่เป็นการผลักดันให้เกิด “การชะลออย่างมีเงื่อนไข” เพื่อสร้างสมดุลระหว่างนวัตกรรมกับความรับผิดชอบ โดยเฉพาะในช่วงที่โมเดลเริ่มมีความเป็นอัตโนมัติมากขึ้นและอาจถูกนำไปใช้งานในวงกว้างกว่าที่คาด

ในภาพรวม ข้อเสนอครั้งนี้ตอกย้ำการถกเถียงที่กำลังร้อนแรงในวงการ AI ว่าการแข่งขันเพื่อออกโมเดลที่ทรงพลังที่สุดควรเดินหน้าเร็วแค่ไหน และใครควรเป็นผู้กำหนดมาตรฐานความปลอดภัยขั้นต่ำก่อนระบบเหล่านี้จะถูกปล่อยสู่การใช้งานจริงในระดับกว้าง