นักวิทยาศาสตร์ 400 คนเรียกร้องตั้งองค์กรนานาชาติคุมดูแลเอไอขั้นสูง

นักวิทยาศาสตร์ราว 400 คนจาก 34 ประเทศออกมาเรียกร้องให้มี “องค์กรระหว่างประเทศ” ที่ทำหน้าที่กำหนดมาตรฐานด้านการควบคุมและความปลอดภัยของระบบปัญญาประดิษฐ์ขั้นสูง โดยเฉพาะโมเดลเอไอที่มีความสามารถเกี่ยวข้องกับงานไซเบอร์และอาจถูกนำไปใช้ในทางที่ก่อความเสี่ยงได้

ข้อเสนอสำคัญคือการสร้างกลไกกำกับดูแลที่เป็นอิสระจากผู้พัฒนาและผู้ใช้งานเชิงพาณิชย์ เพื่อประเมินความเสี่ยงอย่างต่อเนื่อง รวมถึงบังคับให้มีระบบรายงานเหตุการณ์หรือปัญหาที่เกิดขึ้นจากการใช้งานเอไอขั้นสูงอย่างเป็นทางการ เพื่อให้สามารถติดตามอุบัติเหตุ ช่องโหว่ หรือพฤติกรรมที่ไม่คาดคิดได้ทันท่วงที

กลุ่มผู้ลงนามยังเสนอให้โมเดลแนวหน้า หรือ frontier models ควรถูกแยกออกจากเครือข่ายภายนอกในระยะแรกของการพัฒนาและทดสอบ เพื่อลดความเสี่ยงจากการเชื่อมต่อกับระบบอื่นที่อาจเปิดทางให้เกิดการเข้าถึงข้อมูล การสั่งงาน หรือการโจมตีทางไซเบอร์โดยไม่ได้ตั้งใจ

ประเด็นนี้สะท้อนความกังวลที่เพิ่มขึ้นในวงวิชาการและนโยบายว่า เมื่อเอไอมีความสามารถมากขึ้น ความเสี่ยงก็ขยายตัวตาม ทั้งในด้านความมั่นคงไซเบอร์ การใช้งานผิดวัตถุประสงค์ และผลกระทบที่อาจลุกลามข้ามพรมแดน จึงไม่ควรปล่อยให้การดูแลพึ่งพาเฉพาะมาตรฐานของแต่ละบริษัทหรือแต่ละประเทศ

แม้บทความจะไม่ได้ระบุรายละเอียดเชิงโครงสร้างขององค์กรดังกล่าวทั้งหมด แต่สาระสำคัญคือการผลักดันให้การกำกับดูแลเอไอขั้นสูงกลายเป็นเรื่องระดับสากล คล้ายกรอบความร่วมมือด้านความปลอดภัยเทคโนโลยีอื่น ๆ ที่มีผลกระทบกว้างต่อสังคมและความมั่นคง

หากข้อเสนอได้รับการตอบรับ อาจเป็นจุดเริ่มต้นของกรอบกำกับดูแลเอไอที่เข้มงวดขึ้นทั้งในด้านการทดสอบ การรายงานเหตุการณ์ และมาตรการป้องกันก่อนปล่อยใช้งาน ซึ่งจะมีผลโดยตรงต่อผู้พัฒนาเอไอรายใหญ่และทิศทางนโยบายเทคโนโลยีในอนาคต