อดีตนักวิจัย Anthropic เตือน AI ที่พัฒนาตัวเองได้อาจเป็นภัยถึงชีวิตมนุษย์
Jacob Coxon นักวิจัยด้าน AI ที่เพิ่งลาออกจาก Anthropic ออกมาโพสต์เตือนอย่างตรงไปตรงมาว่า บริษัท AI ชั้นนำกำลังเดิมพันกับความเสี่ยงระดับอารยธรรม โดยเชื่อว่าระบบ AI รุ่นถัดไปอาจเป็นอันตรายร้ายแรงต่อมนุษยชาติได้ภายในสิ้นทศวรรษนี้ เขามองว่าปัญหาไม่ได้อยู่แค่โมเดลที่ใช้งานกันในปัจจุบัน แต่เป็นอนาคตของ “ซูเปอร์อินเทลลิเจนซ์ที่พัฒนาตัวเองได้” ซึ่งอาจกลายเป็นระบบที่เก่งพอจะเจาะระบบใดก็ได้ เปลี่ยนแปลงอุตสาหกรรมแทบทุกแขนงได้ในเวลาอันสั้น และสะสมอำนาจกับทรัพยากรได้อย่างรวดเร็ว
ในมุมของ Coxon ความเสี่ยงสำคัญคือหลายคนที่ทำงานด้านนี้ยังไม่ตระหนักถึงผลกระทบระดับอารยธรรมอย่างแท้จริง หรือไม่ก็เชื่อว่าจำเป็นต้องเร่งสร้างซูเปอร์อินเทลลิเจนซ์ให้ทันก่อนคู่แข่ง เพื่อไม่ให้ผู้เล่นที่ประมาทกว่าก้าวนำไปก่อน เขาจึงมองว่าการแข่งขันเชิงธุรกิจและเชิงยุทธศาสตร์กำลังกดดันให้บริษัทต่าง ๆ เดินหน้าเร็วเกินกว่าที่ความปลอดภัยจะรับไหว
รายงานนี้ชี้ว่า Coxon ไม่ได้เป็นเพียงเสียงจากคนที่ลาออกแล้วพูดสวนกระแสเท่านั้น เพราะ Evan Hubinger หัวหน้าฝ่าย Alignment Science ของ Anthropic ก็ออกมาสนับสนุนว่าเขาเห็นด้วยกับประเด็นดังกล่าว และระบุส่วนตัวว่าเขาเชื่อว่าความเสี่ยงที่ AI จะทำให้มนุษย์สูญพันธุ์นั้นมีอยู่จริงและอาจสูงกว่า 10% ภายในช่วงทศวรรษหน้า
ถ้อยแถลงลักษณะนี้สะท้อนให้เห็นว่าภายในวงการ AI ชั้นนำเองก็มีความกังวลรุนแรงเกี่ยวกับทิศทางการพัฒนาโมเดลที่ทรงพลังขึ้นเรื่อย ๆ โดยเฉพาะเมื่อคำว่า “self-improving” หรือการที่ระบบปรับปรุงความสามารถของตัวเองได้ กลายเป็นจุดเปลี่ยนสำคัญที่ทำให้ความเสี่ยงขยายจากปัญหาความผิดพลาดของซอฟต์แวร์ ไปสู่คำถามเรื่องการควบคุมอำนาจของระบบอัจฉริยะในอนาคต
สำหรับผู้อ่านข่าวเทคโนโลยี ประเด็นนี้ย้ำว่าการถกเถียงเรื่อง AI ไม่ได้จำกัดอยู่ที่ประสิทธิภาพ ผลิตภาพ หรือการแข่งขันทางธุรกิจเท่านั้น แต่กำลังขยายไปสู่คำถามด้านความปลอดภัยของมนุษยชาติ การกำกับดูแล และความรับผิดชอบของบริษัทที่พัฒนาเทคโนโลยีระดับแนวหน้า ซึ่งอาจมีผลต่อมาตรฐานอุตสาหกรรมและนโยบายสาธารณะในระยะยาว
