นักวิจัยเตือนแล็บ AI ยังป้องกันไม่พอ รับมือระบบที่อาจพัฒนาตัวเองได้

รายงานของ Reuters ระบุว่า นักวิจัยและอดีตพนักงานจาก OpenAI และ Google DeepMind ออกมาแสดงความกังวลต่อมาตรการป้องกันความเสี่ยงของระบบ AI ที่อาจมีความสามารถ “พัฒนาตัวเอง” ได้ในอนาคต โดยมองว่าอุตสาหกรรมยังให้ความสำคัญกับการเร่งพัฒนาและนำโมเดลออกสู่ตลาดมากกว่าการวางกลไกควบคุมที่รัดกุมพอ

ประเด็นหลักของความกังวลอยู่ที่การประเมินความสามารถของโมเดลขั้นสูงก่อนการเปิดใช้งานจริง ว่าบริษัทต่าง ๆ มีวิธีทดสอบและตรวจจับพฤติกรรมที่อาจก้าวข้ามการควบคุมของมนุษย์เพียงพอหรือไม่ โดยเฉพาะเมื่อโมเดลมีแนวโน้มซับซ้อนขึ้นและอาจพัฒนาความสามารถใหม่ ๆ ได้เองจากการฝึกฝนหรือการใช้งานต่อเนื่อง

กลุ่มผู้แสดงความเห็นต้องการให้บริษัท AI เพิ่มความเข้มงวดในการทดสอบความปลอดภัย และพิจารณาชะลอการแข่งขันพัฒนาโมเดลหากจำเป็น เพราะเชื่อว่าความเร็วในการปล่อยเทคโนโลยีอาจทำให้ช่องโหว่ด้านความปลอดภัยถูกมองข้าม ขณะที่ผลกระทบของระบบที่ทรงพลังขึ้นเรื่อย ๆ อาจไม่ได้จำกัดอยู่แค่ด้านเทคนิค แต่รวมถึงการใช้งานผิดวัตถุประสงค์และความเสี่ยงต่อสังคมในวงกว้าง

รายงานชิ้นนี้สะท้อนแรงกดดันที่เพิ่มขึ้นต่อบริษัท AI ชั้นนำ ให้ต้องพิสูจน์ว่ากระบวนการตรวจสอบก่อนใช้งานจริงมีความรัดกุมพอในยุคที่โมเดลขยายขอบเขตความสามารถอย่างรวดเร็ว และทำให้เกิดคำถามเชิงนโยบายว่าอุตสาหกรรมควรเร่งแข่งกันเปิดตัวผลิตภัณฑ์ต่อไป หรือควรยกระดับมาตรฐานความปลอดภัยก่อนเป็นลำดับแรก