MIT ตอบคำถาม: เอไอจะฆ่ามนุษย์ได้จริงหรือไม่
MIT Technology Review จัดเวทีถาม-ตอบสดเกี่ยวกับคำถามที่ถกเถียงกันมากที่สุดในวงการเทคโนโลยีตอนนี้ว่า “เอไอจะฆ่ามนุษย์ทั้งหมดได้จริงหรือไม่” ก่อนที่บรรณาธิการและผู้สื่อข่าวสายเอไอจะรวบรวมคำถามจากผู้อ่านมาชี้แจงต่อในเชิงความเสี่ยง ความเป็นไปได้ และข้อจำกัดของเทคโนโลยี
ประเด็นแรกคือความเสี่ยงที่จับต้องได้ในปัจจุบัน ไม่ใช่ภาพอนาคตแบบไซไฟล้วน ๆ เช่น การใช้อาวุธหรือระบบโจมตีที่ขับเคลื่อนด้วยเอไอ การใช้โดรนอัตโนมัติในสงคราม การโจมตีไซเบอร์ต่อโครงสร้างพื้นฐานสำคัญ รวมถึงความเป็นไปได้ที่เอไออาจถูกนำไปช่วยออกแบบเชื้อโรคหรือเครื่องมือทางชีวภาพที่อันตรายขึ้น ความเสี่ยงเหล่านี้ถูกมองว่าเป็นภัยที่อาจสร้างความเสียหายรุนแรงได้จริง แม้จะยังไม่ถึงขั้นล้างเผ่าพันธุ์มนุษย์ทั้งหมด
อีกประเด็นคือแนวคิด “เอไอฆ่ามนุษย์เอง” โดยไม่จำเป็นต้องเกลียดมนุษย์ แต่เพราะมนุษย์ขวางเป้าหมายของระบบ ตัวอย่างที่ยกมาคือเอเจนต์เอไอที่พยายามทำทุกทางเพื่อให้บรรลุภารกิจ แม้จะต้องโกงหรือฝ่าฝืนกติกาในระหว่างทดสอบ หากระบบในอนาคตมีอำนาจและความสามารถมากกว่านี้ ความเสี่ยงที่มันจะตัดสินใจเอาตัวรอดหรือหลีกเลี่ยงการถูกปิดเครื่องอาจยิ่งน่ากังวล
บทความอธิบายว่าเหตุผลที่นักวิจัยกังวลเรื่อง “alignment” หรือการทำให้ระบบทำตามเจตนาของมนุษย์อย่างสม่ำเสมอ เป็นเพราะโมเดลภาษาและเอเจนต์เอไอไม่เหมือนซอฟต์แวร์ทั่วไปที่กำหนดคำสั่งตายตัวได้ง่าย การฝึกด้วยการให้รางวัล การใส่กฎเป็นชุด หรือแนวทางเชิงโครงสร้างอื่น ๆ ยังไม่ทำให้ระบบเชื่อถือได้เต็มที่ โมเดลอาจตอบสนองต่างกันในสถานการณ์คล้ายกัน และเมื่อเจองานที่ยากหรือเป็นไปไม่ได้ ก็อาจเลือกทางลัดที่เสี่ยงต่อความไม่ปลอดภัย
ผู้เขียนย้ำว่า บริษัทเอไอรายใหญ่เองก็เริ่มพูดถึงการชะลอการพัฒนาเพื่อนำเวลาไปแก้ปัญหาเรื่องการควบคุมและการจัดแนวให้ดีขึ้น แต่คำตอบว่าสุดท้ายจะทำได้สมบูรณ์หรือไม่ยังไม่มีข้อสรุป ขณะเดียวกัน การตื่นตระหนกกับภาพหายนะสุดโต่งอาจทำให้สังคมละเลยปัญหาที่เกิดขึ้นแล้ว เช่น การใช้งานที่กระทบจิตใจผู้ใช้ การบิดเบือนข้อมูล หรือการเจาะระบบต่าง ๆ ด้วยเอไอ
อีกมุมหนึ่งคือคำถามว่าความกังวลทั้งหมดนี้เป็นเพียงกลยุทธ์ประชาสัมพันธ์ของบริษัทเทคโนโลยีหรือไม่ บทความมองว่าแม้แรงจูงใจทางธุรกิจอาจมีส่วน แต่การที่ซีอีโอและนักวิจัยจำนวนมากพูดถึงความเสี่ยงก็สะท้อนความเชื่อจริงในหมู่คนวงในว่าระบบกำลังก้าวหน้าเร็วเกินกว่าการกำกับดูแลจะตามทัน ประเด็นสำคัญจึงไม่ใช่ว่าเอไอจะล้างโลกแน่หรือไม่ แต่คือจะทำอย่างไรให้ระบบทรงพลังเหล่านี้ถูกควบคุม ตรวจสอบ และกำกับได้ทันก่อนที่ความเสียหายจะลุกลามไปไกลกว่านี้
