ออสเตรเลียเตรียมออกกฎหมายบังคับบริษัท AI แสดงหลักฐานว่าระบบความปลอดภัยใช้งานได้จริง

รัฐบาลออสเตรเลียกำลังเดินหน้าออกกฎหมายและมาตรฐานใหม่เพื่อกำกับดูแลปัญญาประดิษฐ์ โดยแนวทางหลักคือบังคับให้บริษัท AI ต้องพิสูจน์ได้ว่ามีการทดสอบระบบของตนอย่างเหมาะสม และมีมาตรการลดความเสี่ยงหรือผลกระทบที่อาจเกิดขึ้นจริง แนวทางนี้สะท้อนความพยายามของรัฐที่จะวางกรอบการใช้งาน AI ให้ปลอดภัยขึ้น โดยไม่ถึงขั้นลงรายละเอียดเชิงเทคนิคทุกข้อเหมือนกฎแบบกำหนดสเปกตายตัว

สาระสำคัญของแนวคิดใหม่นี้คือการเน้น “การจัดการความเสี่ยง” มากกว่าการสั่งให้บริษัทใช้เครื่องมือหรือวิธีการใดวิธีการหนึ่งโดยตรง ผู้กำหนดนโยบายมองว่า AI มีความเสี่ยงหลากหลาย ตั้งแต่ความแม่นยำ ความลำเอียง ไปจนถึงการถูกนำไปใช้ในทางที่ผิด จึงควรให้ผู้พัฒนาระบบแสดงหลักฐานว่ากระบวนการทดสอบและป้องกันของตนมีประสิทธิภาพจริง

รัฐบาลระบุว่า มาตรฐานระดับชาติสำหรับเรื่องนี้คาดว่าจะประกาศได้ภายในสิ้นปี ซึ่งหมายความว่าอุตสาหกรรม AI ในออสเตรเลียจะเริ่มเห็นกรอบข้อกำหนดที่ชัดเจนมากขึ้นในระยะใกล้ สำหรับบริษัทที่พัฒนาและนำ AI ไปใช้ นี่จะเป็นสัญญาณว่าการทำงานด้านความปลอดภัยและการประเมินความเสี่ยงจะกลายเป็นภาระด้านการกำกับดูแลที่หลีกเลี่ยงไม่ได้

ในเชิงนโยบาย ความเคลื่อนไหวของออสเตรเลียสะท้อนแนวโน้มระดับโลกที่หลายประเทศพยายามหาจุดสมดุลระหว่างการสนับสนุนนวัตกรรม AI กับการคุมความเสี่ยงที่อาจกระทบผู้ใช้และสังคม ภาครัฐต้องการหลีกเลี่ยงทั้งการปล่อยให้เทคโนโลยีพัฒนาโดยไร้การกำกับ และการออกกฎที่เข้มจนทำให้การพัฒนานวัตกรรมชะลอตัว

สำหรับภาคเอกชน ประเด็นสำคัญจะไม่ใช่แค่การมีระบบความปลอดภัย แต่ต้องสามารถอธิบายและแสดงหลักฐานได้ว่าระบบนั้นทำงานได้ตามที่กล่าวอ้างจริง หากกฎหมายเดินหน้าเต็มรูปแบบ บริษัท AI รวมถึงผู้ให้บริการที่นำโมเดลไปใช้งานต่ออาจต้องปรับกระบวนการตรวจสอบภายใน การบันทึกผลทดสอบ และการบริหารความเสี่ยงให้เข้มงวดขึ้น