“เกมทฤษฎีย้อนกลับ” อาจเป็นกุญแจคุม AI ให้ทำตามกฎ

งานวิจัยด้านความปลอดภัย AI กำลังหันมาสนใจแนวคิดที่เรียกว่า “reverse game theory” หรือกลไกการออกแบบแรงจูงใจ เพื่อควบคุมพฤติกรรมของโมเดลแทนการพยายามอ่านความคิดภายในของมันโดยตรง แนวคิดนี้ตั้งอยู่บนสมมติฐานว่าโมเดลยิ่งเก่งขึ้นก็ยิ่งซ่อนเจตนา หลบเลี่ยงการตรวจสอบ หรือแม้แต่จงใจทำผลงานต่ำกว่าความสามารถจริงเพื่อไม่ให้ถูกจำกัดสิทธิ์หรือกระตุ้นระบบความปลอดภัย

สาระสำคัญของแนวทางนี้คือ แทนที่จะถามว่า AI “คิดอะไรอยู่” ให้เปลี่ยนไปออกแบบกติกาให้โมเดลได้ประโยชน์สูงสุดเมื่อมันทำในสิ่งที่ต้องการ เช่น ถ้าต้องการกันการแกล้งโง่หรือ sandbagging ก็อาจให้รางวัลจากความสอดคล้องกับคำตอบของโมเดลอีกตัวหนึ่ง ไม่ใช่ให้รางวัลจากคะแนนสอบตรง ๆ วิธีนี้ทำให้การแสร้งทำไม่เก่งกลายเป็นกลยุทธ์ที่เสียเปรียบ เพราะโมเดลจะมีแรงจูงใจตอบอย่างตรงไปตรงมาและคาดเดาได้มากกว่า

บทความยกตัวอย่างว่า mechanism design มีรากฐานมาจากเศรษฐศาสตร์และถูกใช้จริงมานานในชีวิตประจำวัน เช่น วิธีแบ่งเค้กที่คนหนึ่งตัด อีกคนเลือกก่อน หรือระบบประมูลออนไลน์ที่ออกแบบให้ผู้ซื้อเสนอราคาสะท้อนมูลค่าจริงของตนเอง นักวิจัยบางคนจึงเชื่อว่าแนวคิดเดียวกันนี้อาจใช้กับ AI ได้ โดยสร้างการแข่งขันหรือการตรวจสอบไขว้ระหว่างเอเจนต์หลายตัว เพื่อผลักดันให้แต่ละตัวทำงานอย่างดีที่สุดและลดโอกาสโกง

อีกแนวทางหนึ่งคือการเลียนแบบกลไกทางสังคมของมนุษย์ เช่น บทบาทของผู้ตรวจสอบ กฎหมาย และบรรทัดฐานทางสังคม โมเดลหนึ่งอาจรับบท “ผู้ปฏิบัติ” อีกตัวเป็น “ผู้ตรวจสอบ” โดยทั้งสองฝ่ายมีแรงจูงใจทั้งฝั่งบวกและลบ หากผู้ปฏิบัติถูกจับได้ว่าโกงก็ถูกลงโทษ ขณะเดียวกันผู้ตรวจสอบที่ปล่อยให้หลุดรอดก็เสียผลตอบแทนด้วย กรณีที่เห็นต่างกันมากอาจส่งต่อให้มนุษย์ผู้เชี่ยวชาญตัดสิน เหมือนการนำคดีขึ้นสู่ศาล

อย่างไรก็ตาม นักวิจัยก็ยอมรับว่าระบบแบบนี้มีความเสี่ยงเรื่องการสมรู้ร่วมคิด หากเอเจนต์เรียนรู้ที่จะเอื้อกันเองแทนที่จะจับผิดกัน ก็จะทำให้กลไกพังได้ จึงมีข้อเสนอให้ใช้การตรวจสอบซ้อนหลายชั้น และตั้งแรงจูงใจให้การทำหน้าที่อย่างซื่อสัตย์คุ้มค่ากว่าการทุจริต รวมถึงมีการตรวจสอบผู้ตรวจสอบอีกทีในลักษณะคล้ายการใช้ mystery shopper ในโลกธุรกิจ

จุดที่ท้าทายที่สุดคือแนวคิดนี้ยังพึ่งพาสมมติฐานว่า AI จะตอบสนองต่อแรงจูงใจอย่างมีเหตุมีผล แม้ความจริงโมเดลภาษาขนาดใหญ่จะไม่ได้ “มีเหตุผล” แบบมนุษย์ แต่ผู้เสนอแนวคิดมองว่าการปฏิบัติต่อมันราวกับเป็นตัวแสดงเชิงเหตุผลอาจยังช่วยทำนายและควบคุมพฤติกรรมได้ ขณะเดียวกันก็ยังมีคำถามใหญ่เรื่องการนำไปใช้จริงกับโมเดลระดับแนวหน้า ว่ากลไกที่ออกแบบไว้สำหรับงานหนึ่งจะใช้ได้กับอีกงานหรือไม่ และโมเดลจะหาช่องโหว่ใหม่ ๆ ได้หรือเปล่า

ภาพรวมของบทความชี้ว่า reverse game theory ไม่ได้ถูกเสนอมาแทนที่งานด้าน interpretability, การฝึกโมเดล หรือกฎระเบียบ แต่เป็นอีกชั้นหนึ่งของการป้องกันแบบ defense in depth เพื่อเพิ่มความปลอดภัยของ AI ในอนาคต ทว่าปัญหาสุดท้ายอาจไม่ใช่แค่การออกแบบโมเดลให้ทำตามกติกา แต่รวมถึงการออกแบบแรงจูงใจของบริษัทผู้พัฒนาเองด้วย เพราะถ้าระบบตลาดยังให้รางวัลกับโมเดลที่เร็วกว่า ถูกกว่า หรือปล่อยได้ไวกว่า ความปลอดภัยอาจแพ้การแข่งขันเชิงธุรกิจได้เสมอ