นักวิจัย Anthropic ลาออก เตือนความเสี่ยง AI พัฒนาตัวเองเกินควบคุม
จาค็อบ ค็อกซ์อน นักวิจัยจาก Anthropic ตัดสินใจลาออกจากบริษัท พร้อมออกมาเตือนอย่างตรงไปตรงมาว่าการพัฒนา AI ที่สามารถปรับปรุงตัวเองได้อาจพาอุตสาหกรรมเข้าสู่ความเสี่ยงระดับร้ายแรงถึงขั้นกระทบต่อการอยู่รอดของมนุษย์ เขามองว่าความเร็วในการแข่งขันสร้างโมเดลที่เก่งขึ้นเรื่อย ๆ กำลังทำให้บริษัทเทคโนโลยี “เล่นกับชีวิตของเรา” มากกว่าจะคุมความเสี่ยงได้จริง
ประเด็นสำคัญของคำเตือนนี้คือความกังวลต่อระบบ AI แบบ self-improving หรือ AI ที่สามารถยกระดับสมรรถนะของตัวเองได้อย่างต่อเนื่อง หากไม่มีกรอบกำกับหรือข้อตกลงร่วมระหว่างห้องวิจัยและบริษัทคู่แข่ง การไล่แข่งกันเพื่อเพิ่มความสามารถอาจทำให้เกิดพฤติกรรมหรือการตัดสินใจของระบบที่มนุษย์ควบคุมได้ยากขึ้น เขาจึงเห็นว่าควรมีการชะลอความเร็วในการพัฒนาในจุดเสี่ยงสูง
ค็อกซ์อนเรียกร้องให้บริษัท AI รายใหญ่หันมาทำ “pacing agreements” หรือข้อตกลงเรื่องจังหวะการพัฒนา เพื่อให้การปล่อยความสามารถใหม่ ๆ สอดคล้องกับระดับการประเมินความปลอดภัยมากกว่าการเร่งเปิดตัวเพียงเพื่อชิงความได้เปรียบทางธุรกิจ แนวคิดนี้สะท้อนมุมมองว่าความปลอดภัยของ AI ไม่ควรถูกปล่อยให้ขึ้นกับการตัดสินใจของบริษัทใดบริษัทหนึ่ง
การลาออกของเขายังตอกย้ำว่าภายในวงการ AI เองก็มีความกังวลต่อทิศทางการแข่งขันที่ร้อนแรงขึ้นเรื่อย ๆ โดยเฉพาะเมื่อหลายบริษัททุ่มทรัพยากรสร้างโมเดลที่ทรงพลังมากขึ้นอย่างต่อเนื่อง แม้ AI จะถูกมองว่าเป็นเทคโนโลยีเปลี่ยนโลก แต่เสียงจากฝั่งนักวิจัยอย่างค็อกซ์อนสะท้อนว่า ความก้าวหน้าที่รวดเร็วอาจมาพร้อมความเสี่ยงเชิงระบบที่ยังประเมินได้ไม่ครบถ้วน
โดยรวม บทสัมภาษณ์และการตัดสินใจลาออกครั้งนี้ชี้ให้เห็นแรงตึงเครียดระหว่างเป้าหมายด้านนวัตกรรมกับความปลอดภัยในยุค AI ขั้นสูง ขณะเดียวกันก็ผลักประเด็นการกำกับดูแล การประสานงานระหว่างบริษัท และการตั้งเพดานความเร็วของการพัฒนาให้กลายเป็นคำถามเร่งด่วนมากขึ้นสำหรับอุตสาหกรรมและผู้กำหนดนโยบาย
