อย่าหลงเชื่อว่า LLMs “คิดเป็น”: บทเรียนจาก AlphaGo ว่าด้วยเหตุผลของเครื่อง
บทความชิ้นนี้โต้แย้งอย่างชัดเจนว่าความสามารถของแชตบอตและโมเดลภาษาขนาดใหญ่ (LLMs) ที่ดูเหมือน “คิดเป็น” นั้นยังไม่เท่ากับการมีเหตุผลจริงในความหมายที่นักวิทยาศาสตร์หรือวิศวกรต้องการ ผู้เขียนเริ่มจากการ…
บทความชิ้นนี้โต้แย้งอย่างชัดเจนว่าความสามารถของแชตบอตและโมเดลภาษาขนาดใหญ่ (LLMs) ที่ดูเหมือน “คิดเป็น” นั้นยังไม่เท่ากับการมีเหตุผลจริงในความหมายที่นักวิทยาศาสตร์หรือวิศวกรต้องการ ผู้เขียนเริ่มจากการยกกรณี AlphaGo หมากตำนานที่ลงเดินหมาก “move 37” ซึ่งดูแปลกและสวนทางกับสัญชาตญาณมนุษย์ แต่แท้จริงแล้วไม่ได้เกิดจากการเดาแบบล้วน ๆ หากเกิดจากโครงสร้างที่แยกกันชัดเจนระหว่างส่วนที่สร้างสัญชาตญาณเบื้องต้น กับส่วนค้นหาความเป็นไปได้ในอนาคตอย่างเป็นระบบ ทำให้มันประเมินผลลัพธ์หลายชั้นและเลือกทางที่มนุษย์มักมองข้ามได้
ผู้เขียนใช้ AlphaGo เป็นกรอบเปรียบเทียบกับวิธีทำงานของ LLMs รุ่นปัจจุบัน ซึ่งโดยแก่นแล้วคือการทำนายโทเคนถัดไปทีละขั้น แม้เทคนิค chain of thought จะช่วยให้ตอบโจทย์คณิตศาสตร์หรือโค้ดได้ดีขึ้น แต่ก็ยังเป็นเพียงการขยายกระบวนการเดิมให้ยาวขึ้น ไม่ได้สร้างกลไกการให้เหตุผลแยกต่างหากเหมือนการค้นหาเชิงโครงสร้างของ AlphaGo เขาชี้ว่า LLMs ยังขาดสิ่งสำคัญ 3 ประการ ได้แก่ การมีสถานะความรู้ที่ชัดเจนและตรวจสอบได้ การแยกความรู้กับกระบวนการคิดออกจากกันอย่างเป็นระบบ และความสามารถในการสะท้อนเหตุผลที่แท้จริง เพราะคำอธิบายที่โมเดลผลิตออกมาบางครั้งเป็นการสร้างเรื่องย้อนหลังมากกว่าจะเป็นเส้นทางคิดจริง
ประเด็นนี้มีนัยสำคัญมากต่อการใช้งานในโลกจริง โดยเฉพาะงานที่มีเดิมพันสูงอย่างการแพทย์ วิศวกรรม และงานวิจัย เพราะไม่ใช่แค่ผลลัพธ์สุดท้ายที่ต้องถูกต้อง แต่ต้องอธิบายได้ว่ามาถึงข้อสรุปนั้นอย่างไร เพื่อให้ตรวจสอบข้อผิดพลาดได้ว่าเกิดจากเหตุผลผิด พยานหลักฐานไม่พอ หรือสมมติฐานไม่ถูกต้อง ผู้เขียนมองว่า หากไม่มีโครงสร้างที่เปิดเผยให้ตรวจสอบได้ ระบบ AI จะยังไม่เหมาะกับการตัดสินใจที่ต้องอาศัยความไว้วางใจสูง
ทางออกที่เสนอคือการออกแบบระบบให้มี “สถานะญาณวิทยา” ที่บันทึกสิ่งที่รู้ สิ่งที่ยังสงสัย สิ่งที่ตัดทิ้งไปแล้ว และคำถามที่ยังค้างคา คล้ายเกมทรีของ AlphaGo ที่เก็บเส้นทางความเป็นไปได้และอัปเดตตามการประเมินใหม่ ๆ กระบวนการให้เหตุผลจึงไม่ใช่แค่การเดาคำตอบ แต่คือการเปลี่ยนแปลงสถานะความรู้ทีละขั้นเพื่อลดความไม่แน่นอน ผู้เขียนเชื่อว่าการผสาน LLM เข้ากับเครื่องมือภายนอก การตรวจสอบหลักฐาน และกลไกประเมินว่าก้าวไหนช่วยลดความไม่แน่นอนจริง จะทำให้เกิดระบบที่คล้าย “วิธีการทางวิทยาศาสตร์แบบเร่งความเร็ว” มากกว่าแชตบอตทั่วไป
ข้อสรุปของบทความคือ การขยายขนาดโมเดลอย่างเดียวไม่เพียงพอจะทำให้ AI ฉลาดแบบเชื่อถือได้มากขึ้น เพราะการเพิ่มขนาดช่วยให้สัญชาตญาณดีขึ้น แต่ไม่ได้ทำให้เกิดการไตร่ตรองอย่างเป็นระบบ ผู้เขียนจึงเรียกร้องให้วงการหันไปสร้างสถาปัตยกรรมที่มีเหตุผลเชิงโครงสร้างจริง เพื่อให้ AI สามารถสร้างความรู้ใหม่ที่ผ่านการตรวจสอบได้ และช่วยงานค้นพบในสาขาสำคัญอย่างการค้นคว้ายา วัสดุศาสตร์ ภูมิอากาศ และการวินิจฉัยโรคได้อย่างแท้จริง
