นักวิจัยความปลอดภัยของ Anthropic มองโอกาสที่ AI อาจคร่าชีวิตมนุษย์ทั้งโลกเกิน 10%

ประเด็นความเสี่ยงของปัญญาประดิษฐ์ระดับสูงกลับมาเป็นที่ถกเถียงอีกครั้ง หลังนักวิจัยด้านความปลอดภัยอาวุโสของ Anthropic ออกความเห็นว่ามีโอกาสมากกว่า 10% ที่ AI อาจนำไปสู่หายนะถึงขั้นคร่าชีวิตมนุษย์ทั้งหมดได้ภายในสิ้นทศวรรษนี้ ความเห็นดังกล่าวสะท้อนความกังวลที่รุนแรงผิดปกติเมื่อเทียบกับท่าทีทั่วไปของอุตสาหกรรม และยิ่งถูกจับตามองเพราะเกิดขึ้นท่ามกลางการแข่งขันที่ดุเดือดของห้องแล็บ AI ชั้นนำ

แรงกระเพื่อมยิ่งแรงขึ้นเมื่อมีรายงานว่า Jacob Coxon นักวิจัยที่เคยมีส่วนฝึกโมเดล AI ให้ Anthropic และเคยทำงานฝึกระบบให้ OpenAI มาก่อน ประกาศลาออกจากบริษัท โดยระบุว่าเขาไม่สบายใจกับแนวทางด้านความปลอดภัยขององค์กรและมองว่าบริษัท AI ชั้นนำกำลังเร่งพัฒนา “ซูเปอร์อินเทลลิเจนซ์” โดยไม่รอบคอบพอ เขากล่าวหาโดยตรงว่าทั้ง Anthropic และคู่แข่งกำลังเดิมพันกับความปลอดภัยของมนุษย์ในขณะที่ยังไม่สามารถควบคุมระบบที่พัฒนาขึ้นได้อย่างแท้จริง

สาระสำคัญของเรื่องนี้ไม่ได้อยู่แค่ตัวเลขความน่าจะเป็นที่สูงกว่าปกติ แต่เป็นสัญญาณของความตึงเครียดภายในวงการ AI เอง ระหว่างฝ่ายที่เชื่อว่าความก้าวหน้าทางเทคโนโลยีควรเดินหน้าอย่างรวดเร็ว กับฝ่ายที่เห็นว่าการเร่งสร้างระบบที่ฉลาดขึ้นเรื่อย ๆ อาจเปิดความเสี่ยงใหม่ซึ่งการกำกับดูแลยังตามไม่ทัน โดยเฉพาะเมื่อเป้าหมายถูกยกระดับจากโมเดลช่วยงานทั่วไปไปสู่ระบบที่สามารถพัฒนาตนเองหรือมีความสามารถเกินมนุษย์

กรณีนี้ยังสะท้อนว่าประเด็น “ความปลอดภัยของ AI” ไม่ได้เป็นเพียงงานวิจัยเชิงทฤษฎีอีกต่อไป แต่เริ่มกลายเป็นข้อขัดแย้งเชิงนโยบายและวัฒนธรรมองค์กรภายในบริษัทผู้พัฒนา AI เอง การลาออกของผู้เชี่ยวชาญที่เกี่ยวข้องโดยตรงกับการฝึกระบบ ยิ่งทำให้คำถามเรื่องมาตรการควบคุม การตรวจสอบ และความรับผิดชอบต่อความเสี่ยงในระยะยาวถูกยกขึ้นมาเป็นวาระสำคัญของอุตสาหกรรม

โดยรวม บทความนี้ตอกย้ำว่าการถกเถียงเรื่องอนาคตของ AI กำลังเคลื่อนจากคำถามว่า “ทำอะไรได้บ้าง” ไปสู่คำถามว่า “ควรปล่อยให้ไปไกลแค่ไหน” และใครควรเป็นผู้ตัดสินเส้นแบ่งดังกล่าว ในช่วงที่บริษัทเทคโนโลยีรายใหญ่ยังแข่งขันกันอย่างเข้มข้น เหตุการณ์ลักษณะนี้อาจเพิ่มแรงกดดันให้วงการต้องแสดงให้เห็นอย่างเป็นรูปธรรมมากขึ้นว่าการพัฒนาระบบขั้นสูงจะไม่ทิ้งความปลอดภัยของมนุษย์ไว้ข้างหลัง