ข้ออ้างที่สั่นสะเทือนวงการ AI: เครือข่ายประสาทอาจเข้าใจได้ง่ายกว่าที่คิด

บทความของ MIT Technology Review เล่ากระแสถกเถียงครั้งใหญ่ในวงการ AI หลัง นิค คัมมาราตา นักวิจัยจากสตาร์ตอัป Goodfire เผยบล็อกโพสต์ยาวหลายหมื่นคำที่ตั้งข้อสังเกตว่าโครงสร้างภายในของโมเดลภาษาขนาดใหญ่ หรือ LLMs อาจไม่ได้เป็น “ปมยุ่งเหยิง” ที่ไม่อาจเข้าใจได้อย่างที่นักวิจัยจำนวนมากเชื่อกันมาตลอด หากข้อสันนิษฐานนี้ถูกต้อง นั่นหมายถึงมนุษย์อาจตรวจสอบ เฝ้าระวัง และควบคุมพฤติกรรมของโมเดลได้ง่ายกว่าที่คิด ซึ่งเป็นประเด็นสำคัญยิ่งในช่วงที่อุตสาหกรรม AI กำลังกังวลเรื่องเอเจนต์อัตโนมัติที่อาจหลุดการควบคุมและก่อปัญหาบนอินเทอร์เน็ตสาธารณะ

แรงสะเทือนของโพสต์ดังกล่าวเกิดจากภาพลักษณ์ของคัมมาราตาเอง เพราะเขาเคยเป็นคนสำคัญที่ช่วยพัฒนาแนวทาง “mechanistic interpretability” หรือการพยายามส่องดูการทำงานภายในของโมเดลทีละส่วนผ่านการวิเคราะห์นิวรอนและวงจรภายใน เขาเป็นหนึ่งในผู้ผลักดันแนวคิดที่แต่เดิมทำให้หลายคนเชื่อว่าโมเดลสมัยใหม่มีลักษณะคล้ายสิ่งมีชีวิตที่ “เติบโต” มากกว่าระบบที่ประกอบขึ้นอย่างเป็นระเบียบ และเมื่อศึกษาไปลึกพอ มันจะเต็มไปด้วยการซ้อนทับของแนวคิดที่แยกไม่ออก

กระบวนทัศน์เดิมมาจากงานยุคก่อนอย่างโมเดลภาพ Inception v1 ที่พบว่านิวรอนหนึ่งตัวอาจตอบสนองต่อหลายสิ่งพร้อมกัน เช่น ทั้งรถและแมว จนเกิดแนวคิดเรื่อง superposition ซึ่งสื่อว่าระบบเก็บความหมายหลายอย่างไว้ในพื้นที่เดียวกัน ทำให้การแกะโครงสร้างภายในดูเหมือนงานแทบเป็นไปไม่ได้ จากมุมมองนี้ งานด้านการตีความโมเดลจึงมักพยายาม “คลี่ปม” มากกว่าจะมองหาความเป็นระเบียบที่ซ่อนอยู่

แต่คัมมาราตาเล่าว่า เมื่อเขากลับไปสำรวจโมเดลเดิมด้วยสายตาใหม่และใช้เครื่องมือกับเอเจนต์ AI ช่วยตรวจสอบมากขึ้น เขาเริ่มเห็นรูปแบบที่มีตรรกะในระดับที่ไม่เคยคาดคิดมาก่อน ตัวอย่างคลาสสิกคือ “นิวรอนรถ-แมว” ซึ่งแทนที่จะมองว่าโมเดลสับสน เขากลับตั้งคำถามว่าภาพทั้งสองมีสิ่งใดร่วมกัน จนพบว่าจุดร่วมคือรูปทรงตัว V ที่ปรากฏในทั้งหน้ารถและใบหน้าแมว เมื่อทดสอบต่อก็พบว่ามันตอบสนองต่อวัตถุอื่นที่มีโครงสร้างคล้ายกันด้วย เช่น มุมโต๊ะปิงปอง ปลายจมูกของรถไฟความเร็วสูง หรือเรือดับเพลิงที่พ่นน้ำขึ้นฟ้า ขณะที่รูปทรงโค้งคล้ายตัว O กลับไม่กระตุ้นนิวรอนดังกล่าว

ข้อค้นพบนี้ทำให้เขาเชื่อว่า สิ่งที่เคยถูกมองว่า “ไม่เป็นระเบียบ” อาจเป็นเพียงเพราะมนุษย์ยังตั้งคำถามผิดวิธี หรือมองหาความหมายในกรอบเดิมเกินไป คัมมาราตาไม่ได้อ้างว่ายังเข้าใจ LLMs ทั้งหมดอย่างสมบูรณ์ แต่เขาเชื่อว่าแนวคิดเรื่องการเข้าใจโมเดลเชิงลึกไม่ใช่สิ่งที่เป็นไปไม่ได้อีกต่อไป และหากมีเวลาและเครื่องมือมากพอ การไล่ทำความเข้าใจทีละวงจรภายในโมเดลอาจนำไปสู่ภาพรวมที่มีความหมายได้จริง

อย่างไรก็ดี นักวิจัยจำนวนไม่น้อยยังไม่เห็นด้วย โดยมองว่าข้อเสนอนี้ยังเป็นเพียงสัญชาตญาณหรือสมมติฐานมากกว่าหลักฐานเชิงระบบ และยังไม่ชัดเจนว่าความเข้าใจที่เกิดขึ้นกับโมเดลเล็กหรือโมเดลภาพยุคเก่า จะขยายไปสู่ LLMs สมัยใหม่ที่ใหญ่และซับซ้อนมหาศาลได้มากน้อยเพียงใด จุดยืนที่ต่างกันนี้สะท้อนรอยต่อสำคัญของสาขา interpretability ว่าเรากำลังเข้าใกล้การอธิบาย AI ได้จริง หรือเพียงกำลังตีความจากตัวอย่างไม่กี่ชิ้น

แม้จะมีความเห็นต่าง แต่ประเด็นนี้มีนัยสำคัญต่ออนาคตของ AI อย่างมาก เพราะหากโมเดลขนาดใหญ่สามารถถูกอ่านออกและตรวจสอบได้จริง ก็จะช่วยให้การสร้างระบบที่ปลอดภัย โปร่งใส และควบคุมได้มีความเป็นไปได้มากขึ้น ขณะเดียวกันก็กดดันให้วงการต้องเร่งพัฒนาเครื่องมือวิเคราะห์ที่ตามทันความก้าวหน้าของโมเดลที่ฉลาดขึ้นเรื่อย ๆ บทความจึงไม่ได้สรุปว่าคัมมาราตาพิสูจน์คำตอบสุดท้ายได้แล้ว แต่ชี้ว่าการถกเถียงครั้งนี้อาจเป็นจุดเปลี่ยนที่ทำให้วิธีคิดต่อ “สมอง” ของ AI เปลี่ยนไปอย่างมีนัยสำคัญ