บอร์ด OpenAI เตือนความเสี่ยง AI อาจยึดอำนาจสังคมได้ในอีกไม่กี่เดือน

Paul Cristiano ซึ่งเป็นบอร์ดสมาชิกของ OpenAI Foundation และผู้อำนวยการบริหารของ Alignment Research Center เตือนว่า AI อาจเป็นความเสี่ยงต่อการเสียชีวิตของผู้คนมากกว่าที่สถิติสุขภาพทั่วไปบ่งชี้ เขาพูดเรื่องนี้ระหว่างการบรรยายที่ Toronto Convention Center โดยบอกว่าคนส่วนใหญ่ในห้องนั้น “มีแนวโน้มจะตายเพราะ AI accident” มากที่สุด

Cristiano อธิบายความกังวลของเขาว่ามาจากความเป็นไปได้ของ “AI takeover” ซึ่งเป็นสถานการณ์ที่ระบบ AI ที่ไล่ตามเป้าหมายของตัวเองสามารถ “call the shots” ได้ในระดับเดียวกับที่มนุษย์กำหนดทิศทางของโลกในปัจจุบัน เขาระบุว่าหากถึงจุดนั้น มนุษย์ที่พยายามหยุดยั้งอาจไร้ประสิทธิภาพพอๆ กับคนธรรมดาพยายามหยุดกองทัพสหรัฐฯ

เขาเสริมว่าสถานการณ์ดังกล่าวอาจนำไปสู่การเสียชีวิตจำนวนมาก และอาจทำให้สภาพแวดล้อมบางส่วนของโลกไม่เหมาะต่อการอยู่อาศัยของมนุษย์