นิวยอร์กตั้งโปรแกรมทดสอบ AI ของรัฐเอง ใช้นักวิจัยอิสระตรวจสอบบริษัท

นิวยอร์กเริ่มโปรแกรมทดสอบ AI ระดับรัฐเป็นครั้งแรก โดยให้ทีมนักวิจัยอิสระตรวจสอบระบบของบริษัท AI แทนการพึ่งข้อมูลที่บริษัทอ้างเอง ผู้ว่าการ Kathy Hochul ระบุว่าแนวทางนี้มีขึ้นเพราะความเสี่ยงของ AI สูงเกินกว่าจะปล่อยให้บริษัทประเมินตัวเองเพียงฝ่ายเดียว

งานทดสอบจะอยู่ภายใต้ New York Center for AI Responsibility and Research ที่ Binghamton University และมีนักวิทยาศาสตร์ในนิวยอร์กมากกว่า 80 คนเข้าร่วม โดยใช้พลังประมวลผลจาก Empire AI ซึ่งเป็นความร่วมมือระหว่างภาครัฐและเอกชนมูลค่า 500 ล้านดอลลาร์ของรัฐ ศูนย์นี้จะทดสอบระบบ AI ขั้นสูง ศึกษาความเสี่ยง และจัดทำข้อมูลเพื่อช่วยให้เจ้าหน้าที่ตัดสินใจเชิงนโยบาย

สำนักงานของ Hochul ระบุด้วยว่าโครงการจะดูทั้งการใช้งาน AI อย่างรับผิดชอบในด้านการแพทย์และงานวิจัยทางวิทยาศาสตร์ แต่ก็ยังมีข้อจำกัดเพราะตรวจสอบได้เฉพาะสิ่งที่บริษัทเปิดเผยต่อสาธารณะเท่านั้น กฎหมาย RAISE Act ที่ Hochul ลงนามเมื่อปีที่แล้วกำหนดให้ผู้พัฒนา AI รายใหญ่ต้องลงทะเบียนกับรัฐภายใน 1 มกราคม 2027 และต่อจากนั้นต้องเผยแพร่ safety frameworks, transparency reports และรายงานเหตุการณ์ด้านความปลอดภัยร้ายแรงภายใน 72 ชั่วโมง