นิวซัมดันแคลิฟอร์เนียคุม AI เข้ม อาจบังคับใช้สวิตช์ปิดฉุกเฉิน

ผู้ว่าการรัฐแคลิฟอร์เนีย เกวิน นิวซัม เดินหน้าผลักดันให้รัฐของเขากลายเป็นผู้นำด้านการกำกับดูแลปัญญาประดิษฐ์ ด้วยการออกคำสั่งฝ่ายบริหารฉบับใหม่เพื่อยกระดับมาตรการความปลอดภัยของ AI โดยเฉพาะในกลุ่มโมเดลขั้นสูงหรือ frontier models ที่มีความเสี่ยงสูงต่อสาธารณะ

คำสั่งดังกล่าวมอบหมายให้รัฐตั้งคณะผู้เชี่ยวชาญขึ้นมาพิจารณาและเสนอแนวทางภายใน 2 เดือน ว่าควรปรับกฎหมายของรัฐอย่างไรให้เข้มงวดขึ้น หนึ่งในประเด็นสำคัญคือการพิจารณาให้บริษัท AI ต้องมีหน่วยงานตรวจสอบอิสระประจำอยู่ภายในสถานที่ปฏิบัติงาน เพื่อทำการตรวจสอบเป็นระยะและประเมินความเสี่ยงอย่างสม่ำเสมอ

นอกจากนี้ นิวซัมยังต้องการให้รายงานความโปร่งใสและการประเมินความเสี่ยงของบริษัท AI ถูกตรวจสอบตามมาตรฐานของผู้สอบบัญชีหรือผู้ตรวจสอบอิสระ ไม่ใช่ให้บริษัทประเมินหรือสรุปกันเองเพียงฝ่ายเดียว แนวคิดนี้สะท้อนความพยายามลดช่องว่างระหว่างคำประกาศด้านความปลอดภัยกับการปฏิบัติจริงของอุตสาหกรรม

อีกประเด็นที่ได้รับความสนใจคือแนวคิดเรื่อง “kill switch” หรือกลไกปิดการทำงานฉุกเฉินสำหรับโมเดล AI ขั้นสูง แม้รายละเอียดเชิงปฏิบัติยังไม่ชัด แต่แนวทางนี้บ่งชี้ว่ารัฐแคลิฟอร์เนียกำลังพิจารณามาตรการเชิงรุกมากกว่าการออกแนวทางสมัครใจ และพร้อมใช้เครื่องมือทางกฎหมายเพื่อจำกัดความเสี่ยงหาก AI พัฒนาไปไกลเกินกว่าการควบคุม

โดยรวม คำสั่งของนิวซัมสะท้อนทิศทางใหม่ของการกำกับดูแล AI ในสหรัฐฯ ที่ระดับรัฐอาจเข้ามาเติมช่องว่างก่อนกฎหมายกลางจะตามทัน และหากข้อเสนอของคณะผู้เชี่ยวชาญนำไปสู่กฎหมายจริง ก็อาจกลายเป็นต้นแบบสำคัญสำหรับรัฐอื่นและสำหรับอุตสาหกรรม AI โดยตรง