อดีตนักวิจัย Anthropic เตือน AI อาจพาโลกเสี่ยงวิกฤตภายในทศวรรษนี้
Jacob Coxon อดีตนักวิจัยด้าน pretraining ที่เคยทำงานทั้งกับ OpenAI และ Anthropic ออกมาประกาศลาออกผ่านโพสต์บน X พร้อมวิจารณ์ว่า ทั้งสองบริษัทกำลังเดินหน้าแข่งขันสู่ “ซูเปอร์อินเทลลิเจนซ์” ที่พัฒนาตัวเองได้ และกำลังนำความเสี่ยงระดับชีวิตของผู้คนไปเดิมพัน โพสต์ของเขาได้รับความสนใจอย่างรวดเร็วและถูกแชร์อย่างกว้างขวาง จนกลายเป็นประเด็นถกเถียงเกี่ยวกับความรับผิดชอบของบริษัท AI ชั้นนำอีกครั้ง
Coxon ระบุว่า ผู้ที่สร้างระบบ AI เหล่านี้เชื่อจริงว่ามันอาจเป็นอันตรายถึงขั้น “ฆ่าพวกเราทุกคนได้ภายในสิ้นทศวรรษ” และย้ำว่านี่ไม่ใช่การสร้างกระแสเพื่อการตลาด แต่เป็นความกังวลที่อยู่ในหมู่นักวิจัยและผู้บริหารระดับสูงจำนวนมาก อย่างไรก็ตาม เขาชี้ว่าบริษัทมักเลือกใช้ถ้อยคำที่ฟังดูระมัดระวังต่อสาธารณะ ขณะที่ภายในยังคงเร่งพัฒนาไปข้างหน้า เพราะต่างฝ่ายต่างกลัวว่าจะเสียเปรียบคู่แข่งก่อนถึงจุดหมาย
บทความชี้ว่าความเสี่ยงของ AI ไม่ได้อยู่แค่เรื่องสมมุติในอนาคต แต่เริ่มเห็นผลในโลกจริงแล้ว ทั้งการนำเครื่องมืออย่าง Google Earth ไปใช้สร้างข้อมูลบิดเบือน การหลอกให้ Copilot เปิดเผยวิธีแฮกตัวเอง และคำเตือนจากหน่วยงานความมั่นคงของสหรัฐอย่าง NSA, FBI และ CISA เกี่ยวกับการใช้ AI ช่วยโจมตีโครงสร้างพื้นฐานและระบบสำคัญมากขึ้นเรื่อย ๆ
อีกประเด็นที่ Coxon ยกขึ้นคือ วงจรการแข่งขันในอุตสาหกรรม โดยฝั่ง OpenAI อาจยังไม่ได้ตระหนักความเสี่ยงเชิงอารยธรรมอย่างลึกซึ้ง ขณะที่ Anthropic เข้าใจปัญหาดี แต่กลับติดอยู่ในเกมที่ทุกคนเชื่อว่า หากตนไม่เร่งก็จะถูกคนอื่นแซง จึงจำเป็นต้องเดินหน้าต่อแม้รู้ว่ามีความเสี่ยง นั่นทำให้เขามองว่าปัญหาไม่ได้อยู่ที่บริษัทใดบริษัทหนึ่ง แต่อยู่ที่โครงสร้างการแข่งขันของทั้งอุตสาหกรรม
บทความยังโยงไปถึงคำถามเรื่องแหล่งข้อมูลและต้นทุนมหาศาลของ AI ยุคปัจจุบัน ตั้งแต่ข้อถกเถียงเรื่องการใช้ข้อมูลที่มีลิขสิทธิ์ ไปจนถึงการระดมทุนระดับหลายแสนล้านดอลลาร์ การพึ่งพาฮาร์ดแวร์ประมวลผลมหาศาล และความต้องการชิป GPU ที่พุ่งสูงจนกระทบซัพพลายทั่วโลก สะท้อนว่า AI ไม่ได้เป็นเพียงเทคโนโลยีทดลองอีกต่อไป แต่กลายเป็นอุตสาหกรรมขนาดใหญ่ที่มีแรงจูงใจทางเศรษฐกิจมหาศาลหนุนหลัง
แม้ถ้อยแถลงของ Coxon จะฟังดูเตือนภัยอย่างหนัก แต่เขาไม่ได้ปฏิเสธ AI โดยสิ้นเชิง เขาชี้ว่าผู้ทำวิจัยควรกลับมาทบทวนว่าเราควรมีปฏิสัมพันธ์กับงานวิจัยและอนาคตของ AI อย่างไร รวมถึงเรียกร้องให้มีเงื่อนไขหรือแนวทางใหม่ ๆ ที่รอบคอบกว่าเดิม สาระสำคัญของเขาจึงไม่ใช่การหยุดพัฒนา AI ทันที แต่เป็นการเรียกร้องให้ชะลอความเสี่ยงและตั้งมาตรฐานความรับผิดชอบที่เข้มงวดขึ้น ก่อนที่การแข่งขันจะนำไปสู่ผลลัพธ์ที่ควบคุมไม่ได้
