ไมโครซอฟท์เตือนเอเจนต์ AI เสี่ยงเหมือนภัยคุกคามจากคนในองค์กร

ไมโครซอฟท์ออกคำเตือนต่อภาคธุรกิจว่า “เอเจนต์ AI” ที่พนักงานนำมาใช้กับระบบต่าง ๆ ควรถูกเฝ้าระวังอย่างใกล้ชิด โดยมองความเสี่ยงในลักษณะใกล้เคียงกับภัยคุกคามจากคนในองค์กร มากกว่าการมองเป็นเพียงเครื่องมือเพิ่มประสิทธิภาพทั่วไป ประเด็นสำคัญคือเมื่อเอเจนต์เหล่านี้ทำงานเชื่อมต่อกับระบบสำคัญของบริษัท ความสามารถในการตัดสินใจและลงมือทำแทนผู้ใช้ อาจเปิดช่องให้เกิดการเข้าถึงข้อมูลหรือการกระทำที่องค์กรไม่ได้ตั้งใจอนุญาต

สาระจากคำเตือนนี้สะท้อนความกังวลที่กว้างกว่าความปลอดภัยแบบเดิม เพราะไมโครซอฟท์ชี้ว่าระบบที่ใช้โมเดลจากภายนอกซึ่งไม่ได้อยู่ภายใต้การกำกับดูแลของแล็บ AI รายใหญ่ เช่น OpenAI หรือ Anthropic อาจมีความน่าเชื่อถือน้อยกว่าในบริบทการใช้งานระดับองค์กร บริษัทจึงต้องประเมินทั้งแหล่งที่มาของโมเดล สิทธิ์การเข้าถึงที่เอเจนต์ได้รับ และวิธีตรวจสอบพฤติกรรมของมันเมื่อเชื่อมกับข้อมูลภายใน

แนวคิดนี้บอกใบ้ว่าองค์กรไม่ควรรีบปล่อยให้พนักงานใช้เอเจนต์ AI แบบเสรี โดยเฉพาะในระบบที่เกี่ยวข้องกับอีเมล เอกสาร ลูกค้า หรือข้อมูลภายในที่อ่อนไหว เพราะถ้าเอเจนต์ถูกหลอกให้เปิดเผยข้อมูล เปลี่ยนแปลงการตั้งค่า หรือดำเนินการบางอย่างแทนผู้ใช้ ผลกระทบอาจรุนแรงพอ ๆ กับเหตุจากพนักงานภายในที่มีสิทธิ์เข้าถึงระบบอยู่แล้ว

ในเชิงอุตสาหกรรม คำเตือนของไมโครซอฟท์ยังสะท้อนการแข่งขันด้าน AI ที่กำลังเปลี่ยนจากการขายโมเดลและแชตบอต ไปสู่การใช้งานเชิงปฏิบัติการในองค์กร ซึ่งต้องการมาตรฐานด้านความปลอดภัย การกำกับสิทธิ์ และการตรวจสอบย้อนหลังที่เข้มงวดมากขึ้น ข่าวนี้จึงเป็นสัญญาณว่าเอเจนต์ AI อาจไม่ใช่เพียงเทคโนโลยีใหม่ที่ช่วยงาน แต่เป็นความเสี่ยงเชิงระบบที่องค์กรต้องเตรียมรับมืออย่างจริงจัง