นัดเดลลาเตือนองค์กรให้มองโมเดล AI ขั้นสูงเป็นความเสี่ยงแบบภัยคุกคามภายใน

สัตยา นัดเดลลา ซีอีโอของไมโครซอฟท์ เรียกร้องให้องค์กรต่าง ๆ วางแผนรับมือกับความเป็นไปได้ที่ระบบ AI ที่ทรงพลังอาจถูกโจมตีหรือถูกแทรกแซงจนกลายเป็นความเสี่ยงด้านความปลอดภัยในลักษณะคล้าย “ภัยคุกคามภายใน” มากกว่ามองว่าเป็นเพียงเครื่องมืออัตโนมัติทั่วไป แนวคิดของเขาชี้ให้เห็นว่า เมื่อโมเดล AI ถูกนำไปใช้ในงานสำคัญขององค์กร ความเสียหายอาจเกิดขึ้นได้หากระบบถูกควบคุมผิดทางหรือทำงานเกินขอบเขตที่ตั้งไว้

นัดเดลลาระบุว่า บริษัทควรมีมาตรการ “หยุดฉุกเฉิน” หรือวิธีจำกัดการทำงานของโมเดล เพื่อให้สามารถตัดการทำงานของ AI ได้ระหว่างที่กำลังทำภารกิจอยู่ หากตรวจพบพฤติกรรมผิดปกติหรือมีความเสี่ยงด้านความปลอดภัย แนวคิดนี้สะท้อนว่าการใช้ AI ขั้นสูงในภาคธุรกิจไม่ควรมองแค่เรื่องประสิทธิภาพและผลผลิต แต่ต้องออกแบบให้มีระบบควบคุมและการกำกับดูแลที่เข้มงวดพอ ๆ กัน

คำเตือนดังกล่าวมีนัยสำคัญต่อองค์กรที่เริ่มพึ่งพา AI มากขึ้น ทั้งในงานบริการลูกค้า การวิเคราะห์ข้อมูล และการตัดสินใจเชิงปฏิบัติการ เพราะหากโมเดลถูกเจาะหรือทำงานนอกกรอบ ความเสี่ยงอาจลุกลามเป็นปัญหาด้านข้อมูล ความน่าเชื่อถือ และความต่อเนื่องทางธุรกิจได้ การเตรียมแผนรับมือไว้ล่วงหน้าจึงถูกเสนอให้เป็นส่วนหนึ่งของการบริหารความเสี่ยงยุค AI ไม่ใช่เรื่องที่ค่อยคิดเมื่อเกิดเหตุแล้ว

โดยรวมแล้ว ข้อเสนอของซีอีโอไมโครซอฟท์สะท้อนมุมมองที่เข้มขึ้นต่อความปลอดภัยของ AI ระดับองค์กร ว่าเมื่อโมเดลมีความสามารถสูงขึ้น ก็ยิ่งต้องมีมาตรการควบคุมฉุกเฉินและการป้องกันเชิงรุกมากขึ้น เพื่อให้การใช้งาน AI เดินหน้าได้โดยไม่เปิดช่องให้กลายเป็นจุดอ่อนของระบบสารสนเทศในองค์กร