อดีตพนักงาน OpenAI ชี้ควรคุม AI เหมือนโรงไฟฟ้านิวเคลียร์

อดีตหัวหน้าฝ่ายความปลอดภัยของ OpenAI ออกมาเตือนว่า การปล่อยใช้งานโมเดล AI ขั้นก้าวหน้าไม่ควรถูกเร่งด้วยแรงกดดันทางธุรกิจเพียงอย่างเดียว แต่ควรถูกกำกับและตรวจสอบอย่างเข้มงวดในระดับใกล้เคียงกับอุตสาหกรรมพลังงานนิวเคลียร์ เขามองว่าเทคโนโลยีที่มีศักยภาพสูงและผลกระทบกว้างเช่นนี้ควรอยู่ภายใต้กระบวนการที่มีชั้นป้องกันหลายระดับและใช้เวลาวางแผนอย่างรอบคอบ ไม่ใช่เปิดตัวแบบรีบเร่งเพื่อชิงความได้เปรียบทางการแข่งขัน

ประเด็นสำคัญของคำเตือนนี้คือความเสี่ยงจากโมเดล AI รุ่นหน้าที่มีความสามารถสูงขึ้นเรื่อย ๆ ทั้งในด้านการให้เหตุผล การตัดสินใจ และการใช้งานเชิงอัตโนมัติ หากขาดการตรวจสอบที่เพียงพอ ความผิดพลาดหรือพฤติกรรมที่ไม่คาดคิดอาจกระทบวงกว้างกว่าซอฟต์แวร์ทั่วไป จึงควรมีกลไกประเมินความเสี่ยงก่อนปล่อยจริง รวมถึงการทดสอบความปลอดภัย การตรวจซ้ำหลายขั้น และการกำกับดูแลจากภายนอก

เขาเสนอภาพเปรียบเทียบว่า การนำระบบ AI ระดับ frontier ออกสู่สาธารณะควรมีลักษณะคล้ายการเดินเครื่องโรงไฟฟ้านิวเคลียร์ที่ต้องอาศัยมาตรฐานเข้มงวด ความรับผิดชอบชัดเจน และขั้นตอนรับรองความปลอดภัยก่อนใช้งานจริง แนวคิดนี้สะท้อนความกังวลว่าหากอุตสาหกรรม AI พึ่งพาแค่การประเมินภายในองค์กร อาจไม่เพียงพอต่อการจัดการความเสี่ยงที่เกิดจากความสามารถของโมเดลที่ก้าวหน้าเร็วเกินกว่ากรอบกำกับดูแลปัจจุบัน

ถ้อยแถลงดังกล่าวยังสะท้อนกระแสถกเถียงที่กว้างขึ้นในวงการเทคโนโลยีเกี่ยวกับสมดุลระหว่างนวัตกรรมกับความปลอดภัย ฝั่งหนึ่งมองว่าควรเร่งพัฒนาเพื่อรักษาความสามารถในการแข่งขันและประโยชน์ทางเศรษฐกิจ แต่อีกฝั่งเห็นว่าความเร็วในการเปิดตัวอาจนำไปสู่ความเสียหายที่แก้ไขยาก โดยเฉพาะเมื่อ AI เริ่มมีบทบาทในงานสำคัญและงานที่ต้องตัดสินใจแทนมนุษย์

โดยสรุป ข้อเสนอของอดีตผู้บริหารความปลอดภัย OpenAI คือการยกระดับ AI จากการเป็นผลิตภัณฑ์ซอฟต์แวร์ทั่วไปไปสู่เทคโนโลยีที่ต้องมีระบบกำกับดูแลเชิงโครงสร้างมากขึ้น เพื่อให้การปล่อยใช้โมเดลขนาดใหญ่เป็นไปอย่างระมัดระวัง โปร่งใส และมีการป้องกันหลายชั้นก่อนถึงมือผู้ใช้ทั่วไป