นักวิจัย Anthropic เตือน ความเสี่ยง AI อาจคร่าชีวิตมนุษย์ทั้งหมดในทศวรรษหน้าเกิน 10%
นักวิจัยด้านความปลอดภัยของ Anthropic จุดชนวนกระแสถกเถียงครั้งใหญ่ หลังระบุว่ามีความเป็นไปได้มากกว่า 10% ที่ AI อาจนำไปสู่หายนะระดับคร่าชีวิตมนุษย์ทั้งหมดภายในสิบปีข้างหน้า พร้อมยอมรับตรงกันว่าปัจจุบันยังไม่มีแผนร่วมกันที่ชัดเจนเพื่อป้องกันสถานการณ์ดังกล่าวได้จริง
ประเด็นนี้ถูกจุดขึ้นจากการประกาศลาออกของ Jacob Coxon ซึ่งเคยทำงานกับทั้ง Anthropic และ OpenAI โดยเขาออกมาวิพากษ์วิจารณ์สองบริษัทว่าเร่งแข่งกันไปสู่ “ซูเปอร์อินเทลลิเจนซ์” แบบที่สามารถพัฒนาตัวเองได้ต่อเนื่อง โดยไม่คำนึงถึงความเสี่ยงต่อมนุษยชาติ เขาเตือนว่าระบบในอนาคตอาจฉลาดกว่ามนุษย์ในหลายด้าน ควบคุมเครื่องมือ สร้างอิทธิพล และเข้าถึงทรัพยากรได้มากพอจะทำอันตรายร้ายแรง
Coxon ระบุว่าความเสี่ยงไม่ได้เป็นเพียงคำเตือนเพื่อเรียกความสนใจ แต่เป็นสิ่งที่คนในวงการจำนวนหนึ่งเชื่อจริงในระดับส่วนตัว แม้เมื่อสื่อสาธารณะจะใช้ถ้อยคำที่ดูระมัดระวังกว่า เขายังตั้งคำถามกับการเดินหน้าเร่งพัฒนาโมเดลต่อ ทั้งที่อาจต้องใช้มาตรการหนักอย่างการชะลอหรือหยุดการเพิ่มขีดความสามารถของโมเดลเป็นการชั่วคราว เพื่อเปิดทางให้การประเมินและการกำกับดูแลตามทัน
จากนั้น Evan Hubinger หัวหน้าด้าน Alignment Science ของ Anthropic ก็ออกมาสนับสนุนความเห็นดังกล่าว โดยย้ำว่าเขาเองก็เชื่อว่า AI อาจคร่าชีวิตมนุษย์ทั้งหมดได้ และประเมินความเสี่ยงไว้สูงกว่าระดับ 10% ภายในทศวรรษหน้า เขาอธิบายว่าแม้ Anthropic จะพยายามทำงานอย่างดีที่สุด แต่บริษัทยังไม่มีคำตอบที่มั่นใจได้สำหรับปัญหา alignment ของซูเปอร์อินเทลลิเจนซ์ และยังไม่เห็นเส้นทางที่ชัดเจนไปสู่การแก้ปัญหานี้
สิ่งที่น่าสนใจคือ Anthropic เองเพิ่งระบุในรายงานความเสี่ยงว่าความเสี่ยงจากโมเดลปัจจุบันยังอยู่ในระดับต่ำ ทำให้คำเตือนที่รุนแรงจากผู้บริหารงานวิจัยด้านความปลอดภัยดูขัดแย้งกับท่าทีภายนอกของบริษัทพอสมควร นอกจากนี้ยังมีรายงานว่า Anthropic เคยเก็บโมเดลล่าสุดบางส่วนไม่ให้หน่วยงานประเมินความปลอดภัยของสหราชอาณาจักรเข้าถึงด้วย
บทความยังชี้ว่าความกังวลเรื่อง AI ควบคุมยากไม่ใช่เรื่องโดดเดี่ยว เพราะช่วงที่ผ่านมา OpenAI, Anthropic และ Meta ต่างเปิดเผยกรณีที่เอเจนต์ AI ของตนถูกเจาะระบบหรือถูกนำไปใช้ในทางที่ผิด ขณะที่นักวิจัยชั้นนำบางคน รวมถึงฝ่ายวิจัยของ OpenAI เอง ก็เริ่มเรียกร้องให้ระมัดระวังมากขึ้นและยอมรับว่าอาจต้องมีการแทรกแซงเพิ่มเติมเพื่อให้มนุษย์ยังคุมทิศทางอนาคตได้
อย่างไรก็ตาม ฝั่งรัฐบาลสหรัฐฯ ยังไม่ส่งสัญญาณว่าจะชะลอการแข่งขันนี้ ตรงกันข้ามยังสนับสนุนการพัฒนาอุตสาหกรรม AI ให้แข่งขันได้ในระดับโลกและรักษาความเป็นผู้นำของสหรัฐฯ ประเด็นนี้จึงสะท้อนความตึงเครียดระหว่างแรงผลักดันทางเศรษฐกิจ-ยุทธศาสตร์ กับคำเตือนด้านความปลอดภัยที่มาจากคนในวงการเอง ซึ่งกำลังทำให้สังคมตั้งคำถามหนักขึ้นว่าการพัฒนา AI ควรเดินหน้าต่อในความเร็วเดิมหรือไม่
