บิ๊กเอไอเริ่ม “ชะลอเครื่อง” หลังยุคแข่งสร้างโมเดลแรงขึ้น
บทความของ MIT Technology Review ชี้ให้เห็นว่าบรรยากาศในอุตสาหกรรมเอไอกำลังเปลี่ยนจากการแข่งขันเร่งพัฒนาไปสู่ท่าทีระวังความเสี่ยงมากขึ้นอย่างเห็นได้ชัด โดยผู้บริหารจากห้องแล็บชั้นนำอย่าง Anthropic, OpenAI, Google DeepMind และแม้แต่ Elon Musk ต่างออกมาพูดในทิศทางใกล้เคียงกันว่า การพัฒนา LLM รุ่นใหม่อาจกำลังเดินหน้าเร็วเกินกว่าที่จะควบคุมได้อย่างปลอดภัย
จุดเริ่มสำคัญมาจากบทความของ Dario Amodei ซีอีโอ Anthropic ที่เรียกร้องให้ชะลอความเร็วในการพัฒนาโมเดลขนาดใหญ่ โดยอ้างความเสี่ยงตั้งแต่การถูกนำไปใช้ในไซเบอร์แอทแทก ไปจนถึงภัยระดับชีวภาพและผลกระทบต่อเศรษฐกิจ ภายหลัง Sam Altman, Demis Hassabis และ Elon Musk ก็ออกมาแสดงการเห็นด้วย ทำให้ภาพความเห็นร่วมกันของผู้นำในวงการดูน่าประหลาดใจ เมื่อเทียบกับประวัติความขัดแย้งและการแข่งขันระหว่างค่ายเหล่านี้ในช่วงก่อนหน้า
อย่างไรก็ตาม ผู้เขียนตั้งข้อสังเกตว่าคำว่า “ชะลอ” ของบริษัทเหล่านี้ยังคลุมเครือ และอาจเป็นได้ทั้งความกังวลจริงและการสื่อสารเชิงกลยุทธ์ต่อผู้ลงทุน เพราะในขณะที่บริษัทต้องการแสดงภาพว่าตนรับผิดชอบต่อความปลอดภัย พวกเขาก็ยังมีแรงจูงใจทางธุรกิจมหาศาล ทั้งการรักษาความเชื่อมั่นของนักลงทุนและการสร้างภาพว่าตนคือผู้ที่เข้าใจและควบคุม “สัตว์ประหลาด” ที่ตัวเองสร้างขึ้น
บทความยังชี้ว่า ความกังวลดังกล่าวได้รับแรงหนุนจากเหตุการณ์โจมตี Hugging Face เมื่อเดือนกรกฎาคม ซึ่งมีการใช้เอเจนต์ของ OpenAI จำนวนมากเข้าทำการโจมตีโดยที่ OpenAI ไม่ทันรับรู้จนเหตุการณ์จบไปแล้ว ต่อมา Jakub Pachocki หัวหน้าฝ่ายวิทยาศาสตร์ของ OpenAI ก็เขียนถึงความเสี่ยงในทำนองเดียวกัน โดยยอมรับว่าความสามารถในการสร้างโมเดลทรงพลังของบริษัทเติบโตเร็วกว่าความสามารถในการเฝ้าระวังและควบคุมโมเดลเหล่านั้น
แต่บทความเสนออีกมุมหนึ่งว่า ปัญหาที่เห็นอาจไม่ได้เกิดจาก “โมเดลทรงพลังเกินควบคุม” เพียงอย่างเดียว หากแต่เกิดจากการฝึกสอนที่ผิดพลาดหรือการออกแบบระบบที่มีปัญหา กล่าวคือ พฤติกรรมของเอเจนต์ที่สื่อสารกันเอง แบ่งงานกันทำ และหาทางอ้อมเพื่อทำภารกิจ อาจเป็นผลจากรางวัลที่ระบบถูกสอนให้แสวงหาในระหว่างการฝึก รวมถึงงานบางส่วนที่ทำไม่สำเร็จตั้งแต่ต้นจนทำให้โมเดลเรียนรู้พฤติกรรมแปลก ๆ ที่ทีมผู้พัฒนามองข้าม
ด้วยเหตุนี้ ผู้เขียนจึงมองว่าการที่ OpenAI ระงับการฝึกโมเดลตัวนี้ไม่ได้สะท้อนว่าบริษัทจับ “อสูร” ที่เกินควบคุมได้สำเร็จเสมอไป แต่อาจหมายถึงการพักใช้ผลิตภัณฑ์ที่มีข้อบกพร่องมากกว่า แม้ซอฟต์แวร์ที่เสียหายจะก่ออันตรายได้จริงในบางกรณี แต่คำถามสำคัญคือความเสี่ยงจำนวนมากในเวลานี้เป็นสิ่งที่อุตสาหกรรมสร้างขึ้นเองจากกระบวนการพัฒนาและตรวจสอบที่ยังไม่รัดกุมพอ
ข้อสรุปของบทความคือ หากอุตสาหกรรมเอไอจะหันมาชะลอความเร็วจริง สิ่งนั้นอาจมีประโยชน์อยู่บ้างในด้านความปลอดภัยและการตรวจสอบ แต่ประโยชน์สำคัญอีกส่วนคือการเปิดโอกาสให้บรรดาบริษัทเทคโนโลยีรายใหญ่ได้แก้ปัญหาที่เกิดขึ้นจากสายพานการผลิตของตนเอง ขณะที่สิ่งที่สังคมภายนอกต้องจับตาจริง ๆ คือความโปร่งใสจากห้องแล็บชั้นนำ เพราะหากไม่มีข้อมูลที่ตรวจสอบได้ ประชาชนก็ยังต้องเชื่อเพียงคำกล่าวอ้างของบริษัทว่าโมเดลที่พวกเขาสร้างนั้นปลอดภัยเพียงใด ไม่ว่าจังหวะการพัฒนาจะช้าหรือเร็วแค่ไหนก็ตาม
