แคลิฟอร์เนียผลักดันมาตรการ “สวิตช์ปิด” สำหรับเอไอขั้นสูง

ผู้ว่าการรัฐแคลิฟอร์เนียได้ลงนามคำสั่งฝ่ายบริหารเพื่อเดินหน้ามาตรการกำกับดูแลเอไอที่เข้มงวดขึ้น โดยหนึ่งในแนวคิดสำคัญคือการให้มี “kill switch” หรือกลไกตัดการทำงานฉุกเฉินสำหรับโมเดลเอไอระดับแนวหน้า หากพบความเสี่ยงด้านความปลอดภัยหรือพฤติกรรมที่อาจก่ออันตรายต่อสาธารณะ แนวทางนี้สะท้อนความกังวลที่เพิ่มขึ้นว่าระบบเอไอรุ่นใหม่อาจมีความสามารถสูงเกินกว่ากรอบการกำกับดูแลปัจจุบันจะรับมือได้ทัน

คำสั่งดังกล่าวไม่ได้กำหนดรายละเอียดทางเทคนิคแบบตายตัวในทันที แต่ให้อำนาจแก่คณะผู้เชี่ยวชาญที่จะเข้ามาศึกษาและเสนอแนวทางด้านความปลอดภัยเอไอเพิ่มเติม ทั้งในมิติการทดสอบก่อนใช้งาน การประเมินความเสี่ยง และมาตรการตอบสนองเมื่อเกิดเหตุผิดปกติ เป้าหมายคือสร้างกรอบที่ทำให้การพัฒนาและการใช้งานเอไอกลุ่มที่ทรงพลังที่สุดมีความรับผิดชอบมากขึ้น

ข่าวนี้มีนัยสำคัญต่อทั้งผู้พัฒนาเทคโนโลยีและผู้กำหนดนโยบาย เพราะแคลิฟอร์เนียเป็นศูนย์กลางของอุตสาหกรรมเอไอในสหรัฐฯ มาตรการใด ๆ ที่เริ่มต้นในรัฐนี้มักส่งอิทธิพลต่อแนวปฏิบัติของบริษัทเทคโนโลยีรายใหญ่และอาจกลายเป็นต้นแบบให้รัฐหรือประเทศอื่นนำไปพิจารณาต่อได้

ในภาพรวม คำสั่งของ Newsom สะท้อนการเปลี่ยนจากการถกเถียงเชิงหลักการไปสู่การออกแบบเครื่องมือกำกับดูแลที่จับต้องได้มากขึ้น โดยเฉพาะสำหรับ “frontier models” ที่มีขนาดและความสามารถสูงที่สุด ซึ่งถูกมองว่าต้องมีมาตรการเฝ้าระวังและปิดระบบฉุกเฉินรองรับหากเกิดความเสี่ยงร้ายแรง