ผู้นำ AI เรียกร้องให้ UN กำหนดมาตรฐานความปลอดภัยร่วมระดับโลก

แซม อัลต์แมน ซีอีโอของ OpenAI และดาริโอ อาโมเดอี ซีอีโอของ Anthropic ออกมาเรียกร้องต่อคณะมนตรีความมั่นคงแห่งสหประชาชาติให้ประเทศต่าง ๆ หันมาร่วมกันกำหนดมาตรฐานสากลด้านความปลอดภัยของปัญญาประดิษฐ์ โดยมองว่า AI กำลังพัฒนาเร็วเกินกว่ากติกาในปัจจุบันจะตามทัน และหากไม่มีกรอบร่วมกัน ความเสี่ยงจากการใช้งานผิดทางหรือการควบคุมที่ไม่เพียงพออาจขยายตัวตามความสามารถของระบบที่สูงขึ้น

สาระสำคัญของข้อเสนอคือ การสร้างแนวทางร่วมในการประเมินความสามารถของ AI ความเสี่ยง มาตรการป้องกัน และระดับการกำกับดูแลโดยมนุษย์ เพื่อให้แต่ละประเทศใช้หลักเกณฑ์ใกล้เคียงกันมากขึ้น ไม่ใช่ปล่อยให้การกำกับดูแลกระจัดกระจายตามกฎหมายของแต่ละพื้นที่ ซึ่งอาจทำให้เกิดช่องโหว่หรือมาตรฐานที่ไม่เท่ากันระหว่างประเทศ

การออกมาพูดต่อเวทีของ UN สะท้อนว่าเรื่อง AI safety ไม่ได้ถูกมองเป็นแค่ประเด็นทางเทคนิคของบริษัทเอกชนอีกต่อไป แต่กำลังขยับเป็นโจทย์ด้านความมั่นคงและนโยบายระหว่างประเทศ โดยเฉพาะเมื่อโมเดล AI รุ่นใหม่มีความสามารถมากขึ้นและถูกนำไปใช้ได้ในวงกว้าง ทั้งด้านเศรษฐกิจ สังคม และการเมือง

ในเชิงนโยบาย ข้อเรียกร้องนี้สื่อถึงความพยายามผลักดันให้รัฐบาลและองค์กรระหว่างประเทศสร้างกลไกกำกับดูแลที่ชัดเจนกว่าเดิม ตั้งแต่การทดสอบระบบก่อนใช้งานจริง การตรวจสอบความปลอดภัยอย่างต่อเนื่อง ไปจนถึงการกำหนดความรับผิดชอบเมื่อ AI ก่อให้เกิดอันตรายหรือถูกใช้ในทางที่ผิด

สำหรับอุตสาหกรรมเทคโนโลยี ประเด็นนี้อาจเป็นจุดเริ่มของการถกเถียงเรื่องสมดุลระหว่างนวัตกรรมกับการควบคุม หากมีมาตรฐานสากลเกิดขึ้นจริง ผู้พัฒนา AI รายใหญ่และรายเล็กอาจต้องปรับกระบวนการทำงานให้สอดคล้องกับกติกาที่เข้มขึ้น ขณะเดียวกันก็อาจช่วยสร้างความเชื่อมั่นให้ผู้ใช้และภาครัฐมากขึ้นในระยะยาว