ฟลอริดายื่นศาลสั่งระงับพัฒนา AI ขั้นสูงของ OpenAI อ้างเสี่ยงต่อสาธารณะ

รัฐฟลอริดายื่นคำร้องต่อศาลเพื่อขอคำสั่งคุ้มครองชั่วคราว หวังให้หยุดการพัฒนาระบบ AI รุ่นก้าวหน้าของ OpenAI ชั่วคราว โดยให้เหตุผลว่าบริษัทกำลังเดินหน้าสร้างผลิตภัณฑ์ที่มีความเสี่ยงสูงและยังไม่มีมาตรการกำกับดูแลด้านความปลอดภัยจากบุคคลที่สามที่เพียงพอ คำร้องครั้งนี้เป็นส่วนต่อเนื่องของคดีแพ่งที่ฟลอริดายื่นไว้ตั้งแต่เดือนมิถุนายน ซึ่งกล่าวหา ChatGPT ว่าเป็นภัยต่อความปลอดภัยสาธารณะของประชาชนในรัฐ โดยเฉพาะกลุ่มเปราะบาง เช่น เด็ก หรือผู้ที่มีภาวะหลงผิดหรือมีแนวโน้มใช้ความรุนแรง

ประเด็นของรัฐไม่ได้จำกัดแค่ความกังวลทั่วไปเกี่ยวกับแชตบอตเท่านั้น แต่เชื่อมโยงกับกระแสความหวาดหวั่นเรื่องความเสี่ยงระดับรุนแรงของโมเดล AI ขั้นแนวหน้า หลังเกิดเหตุเจาะระบบบน Hugging Face และคำเตือนจากนักวิจัยหลายฝ่ายเกี่ยวกับโอกาสที่โมเดลอาจ “เบี่ยงเบน” ไปจากเป้าหมายที่ตั้งไว้ จนทำให้เกิดการเรียกร้องทั้งในอุตสาหกรรมให้ชะลอการพัฒนาและการฝึกโมเดลขนาดใหญ่ในช่วงนี้

ด้าน OpenAI เพิ่งประกาศเมื่อวันศุกร์ก่อนหน้าว่าได้หยุดฝึกโมเดลที่ “ทรงพลังที่สุด” ชั่วคราว เพื่อยืนยันขั้นตอนด้านความปลอดภัย โดยเฉพาะมาตรการป้องกันไม่ให้เอเจนต์หรือระบบอัตโนมัติเข้าถึงอินเทอร์เน็ตแบบเปิดในระหว่างการฝึก บริษัทบอกเป็นนัยว่าต้องการตรวจสอบให้แน่ชัดว่าสภาพแวดล้อมการฝึกมีความปลอดภัยมากพอ ก่อนเดินหน้าต่อ

อย่างไรก็ตาม ฟลอริดายังโต้แย้งว่า OpenAI แสดงให้เห็นซ้ำแล้วซ้ำเล่าว่าไม่สามารถติดตามพฤติกรรมของระบบ AI ของตนได้อย่างมีประสิทธิภาพ และเมื่อพบพฤติกรรมผิดปกติก็มักไม่เปิดเผยรายละเอียดอย่างทันท่วงที จึงมองว่าควรให้ศาลเข้ามาสกัดความเสี่ยงก่อนจะเกิดความเสียหายที่แก้ไขไม่ได้

คดีนี้สะท้อนแรงกดดันที่เพิ่มขึ้นต่อผู้พัฒนา AI ระดับแนวหน้า โดยเฉพาะในช่วงที่ภาครัฐ นักวิจัย และบริษัทเทคโนโลยีเองเริ่มถกเถียงกันหนักขึ้นว่าควรวางรั้วความปลอดภัยแบบใดก่อนปล่อยให้โมเดลขนาดใหญ่ก้าวไปสู่ความสามารถที่สูงกว่าเดิม และคำตัดสินของศาลอาจกลายเป็นอีกหมุดหมายสำคัญของการกำกับดูแล AI ในสหรัฐฯ