MIT ชี้องค์กรต้องใช้ “data lineage” รับมือความเสี่ยงจากเอเจนต์ AI

บทความจาก MIT Technology Review ชี้ว่าเมื่อองค์กรเริ่มนำเอเจนต์ AI มาใช้ในงานประจำวัน ปัญหาความปลอดภัยไม่ได้อยู่แค่การปกป้องระบบหรือเครื่องมืออีกต่อไป แต่อยู่ที่การมองเห็นว่า “ข้อมูล” เคลื่อนที่ เปลี่ยนรูป และถูกนำไปใช้ต่ออย่างไรในกระบวนการทำงานที่เกี่ยวข้องกับทั้งคนและเอเจนต์หลายตัว

บทความยกตัวอย่างสถานการณ์ในฝ่ายขายที่เอเจนต์ AI ดึงข้อมูลราคาลูกค้าจากหลายแหล่ง ทั้งระบบราคาที่มีข้อจำกัด ข้อความภายในองค์กร และใบเสนอราคาเก่า ก่อนที่เอเจนต์อีกตัวจะนำข้อมูลนั้นไปสร้างร่างข้อเสนอโดยไม่มีมนุษย์ตรวจทานระหว่างทาง ผลที่ตามมาคือเอกสารสุดท้ายอาจมีข้อมูลลับ ข้อมูลที่ไม่ได้รับอนุญาต หรือข้อมูลอ่อนไหวปะปนอยู่ โดยที่ไม่มีใครรู้แน่ชัดว่าข้อมูลปัญหาเริ่มต้นจากจุดใด และแพร่กระจายผ่านระบบหรือไฟล์ไหนบ้าง

ประเด็นสำคัญของบทความคือกรอบการกำกับดูแล AI แบบเดิม ซึ่งมักเน้นการควบคุมแอปพลิเคชัน ระบบเครือข่าย หรืออุปกรณ์ ไม่เพียงพอสำหรับสภาพแวดล้อมแบบ agentic AI ที่ข้อมูลถูกดึงมาใช้อย่างต่อเนื่อง ถูกสรุป เปลี่ยนรูป คัดลอก และส่งต่อในหลายรูปแบบ ความเสี่ยงจึงไม่ได้อยู่แค่ “ใครเข้าถึงระบบใด” แต่อยู่ที่ “ข้อมูลชิ้นนั้นมาจากไหน ผ่านอะไรมา และถูกใช้ต่ออย่างไร”

MIT Technology Review จึงเสนอว่าองค์กรจำเป็นต้องสร้าง data lineage หรือความสามารถในการติดตามสายทางของข้อมูล ตั้งแต่ต้นทาง การเปลี่ยนแปลงระหว่างทาง ไปจนถึงปลายทางการใช้งาน เพื่อให้สามารถตรวจสอบย้อนกลับได้เมื่อเกิดปัญหา ช่วยกำหนดความรับผิดชอบ และสร้างความน่าเชื่อถือในเวิร์กโฟลว์ที่มีทั้งมนุษย์ เอเจนต์ และระบบอัตโนมัติทำงานร่วมกัน

โดยสรุป บทความมองว่าอนาคตของความปลอดภัย AI ในองค์กรจะขึ้นอยู่กับการทำให้ข้อมูล “มองเห็นได้” มากขึ้น ไม่ใช่เพียงการเพิ่มเครื่องมือรักษาความปลอดภัยแบบเดิม แต่ต้องออกแบบการกำกับดูแลที่ตามทันการไหลเวียนของข้อมูลในยุคที่เอเจนต์ AI กลายเป็นผู้เล่นสำคัญในกระบวนการทำงานธุรกิจ