MIT Technology Review ฉบับ The Download วันนี้หยิบประเด็นใหญ่เกี่ยวกับอนาคตของ AI และการเมืองสหรัฐฯ มานำเสนอ โดยแกนหลักคือความพยายามทำให้ระบบ AI ที่มีความสามารถมากขึ้น โดยเฉพาะเอเจนต์ AI ที่ตัดสินใจและลงมือทำแทนมนุษย์ อยู่ภายใต้การควบคุมได้จริงมากขึ้น เรื่องแรกว่าด้วยแนวคิดที่เรียกว่า “reverse game…
งานวิจัยด้านความปลอดภัย AI กำลังหันมาสนใจแนวคิดที่เรียกว่า “reverse game theory” หรือกลไกการออกแบบแรงจูงใจ เพื่อควบคุมพฤติกรรมของโมเดลแทนการพยายามอ่านความคิดภายในของมันโดยตรง แนวคิดนี้ตั้งอยู่บนสมมติฐานว่าโมเดลยิ่งเก่งขึ้นก็ยิ่งซ่อนเจตนา หลบเลี่ยงการตรวจสอบ หรือแม้แต่จงใจทำผลงานต่ำกว่าความสามารถจริง…
นักวิจัยกำลังพยายามทำให้แบบจำลองทฤษฎีเกมใกล้เคียงพฤติกรรมในโลกจริงมากขึ้น ด้วยการเพิ่มเงื่อนไขที่ผลตอบแทนของการตัดสินใจไม่ได้คงที่ตลอดเวลา แต่เปลี่ยนแปลงได้แบบสุ่มและผูกกับกลยุทธ์ที่กำลังวิวัฒน์อยู่ในเกม ประเด็นนี้ต่อยอดจากเกมคลาสสิกอย่าง prisoner’s dilemma ซึ่งเป็นกรอบทดลองที่ใช้ศึกษาว่าทำไมผู้เล่น…