Intel ชี้ 5 บทเรียนสำคัญในการสร้างสภาพแวดล้อมสำหรับ Agentic AI ในองค์กร

บทความที่เผยแพร่ใน MIT Technology Review โดย Intel อธิบายว่า “agentic AI” สำหรับองค์กรไม่ใช่แค่แชตบอตที่ฉลาดขึ้น แต่คือซอฟต์แวร์เอเจนต์ที่ต้องทำงานแทนคนแบบครบกระบวนการ ตั้งแต่เรียกใช้เครื่องมือ อ่านผลลัพธ์ แก้ไขเมื่อผิดพลาด ไปจนถึงเชื่อมโยงกับเวิร์กโฟลว์ ข้อมูล และระบบต่าง ๆ ของธุรกิจ ดังนั้นการนำมาใช้จริงจึงต้องมองเป็นปัญหาระดับระบบ ไม่ใช่เพียงการรันโมเดลภาษาเพื่อสร้างคำตอบ

Intel ระบุว่าเพื่อทำความเข้าใจข้อจำกัดและประสิทธิภาพของงานลักษณะนี้ บริษัทได้ทำการทดลองเวิร์กโหลดจำนวนมากบนโครงสร้างทดสอบที่ขยายจาก Terminal-Bench ซึ่งเป็นโอเพนซอร์ซสำหรับประเมินเอเจนต์ AI โดยเพิ่มการเก็บ telemetry การทำโปรไฟล์ และการ replay ผลลัพธ์แบบกำหนดตายตัว เพื่อลดความผันผวนจากตัวโมเดลภาษาเอง ทำให้เห็นคอขวดของระบบได้ชัดขึ้น ไม่ใช่แค่ดูคะแนนของ LLM เพียงอย่างเดียว

ผลที่ได้สรุปออกมาเป็น 5 บทเรียนสำหรับผู้นำองค์กร บทแรกคือ agentic AI ต้องถูกออกแบบเป็นปัญหาระบบใหญ่ ตั้งแต่การจัดการ CPU ความทนทานของการเข้าถึงข้อมูล การกำกับนโยบายการใช้เครื่องมือ การสังเกตการณ์การทำงาน (observability) และการจัดการหน่วยความจำ บทที่สองคือเฟรมเวิร์กหรือ harness ที่มีอยู่จำนวนมากยังวัดได้แค่บางส่วนของระบบ จึงไม่สะท้อนประสบการณ์ใช้งานจริงหรือประสิทธิภาพปลายทางขององค์กร

ประเด็นที่สามคือการวางแผนกำลังการประมวลผลควรคิดเป็น “agent per vCPU” หรือความหนาแน่นของเอเจนต์ต่อหน่วยประมวลผล มากกว่านับจำนวนเอเจนต์แบบลอย ๆ เพราะประสิทธิภาพขึ้นกับว่ามีเอเจนต์กี่ตัวต่อทรัพยากรคำนวณที่มีอยู่ บทความยกตัวอย่างว่าระบบ 8 vCPU กับ 10 เอเจนต์ อาจมีพฤติกรรมใกล้เคียงกับระบบ 16 vCPU กับ 20 เอเจนต์ หากอัตราส่วนเท่ากัน ขณะที่งานแบบโต้ตอบควรใช้ความหนาแน่นต่ำกว่าเพื่อรักษาเวลา ตอบสนอง ส่วนงานแบตช์หรือเวิร์กโฟลว์ภายในองค์กรอาจรับความหนาแน่นสูงได้มากกว่า

บทเรียนข้อที่สี่คือการมอนิเตอร์ควรดู “task latency” โดยเฉพาะค่า P95 มากกว่าพึ่งค่าเฉลี่ย CPU utilization เพราะเอเจนต์มักสลับระหว่างช่วงรอโมเดลกับช่วงที่ใช้คอมพิวต์หนักแบบสั้น ๆ ทำให้ค่าเฉลี่ยดูปกติได้ ทั้งที่มีคิวสะสมและผู้ใช้เริ่มรู้สึกช้า ดังนั้นระบบเตือนควรจับสัญญาณจากเวลารันงานก่อน แล้วค่อยตรวจยืนยันด้วยระยะเวลางานที่ยืดออกต่อเนื่อง

ข้อสุดท้ายคือควรเริ่มจากการขยายแบบ scale-out เป็นค่าเริ่มต้นมากกว่าการ scale-up เพราะการเพิ่มจำนวนเครื่องช่วยเพิ่มความจุรวม รองรับความพร้อมใช้งานสูง และมักคุ้มค่ากว่าในเวิร์กโหลดที่เอเจนต์ทำงานค่อนข้างอิสระต่อกัน ส่วนการ scale-up เหมาะเมื่อเอเจนต์ต้องใช้คอมพิวต์แบบขนานหนัก มีข้อจำกัดด้าน state หรือหน่วยความจำ หรือมีเงื่อนไขด้านสถาปัตยกรรมและไลเซนส์บังคับ

ในเชิงธุรกิจ Intel มองว่าการใช้งานที่เริ่มเห็นคุณค่าจริงคือเวิร์กโฟลว์ที่มีขั้นตอนชัดเจนและวัดผลได้อยู่แล้ว เช่น การสร้างโค้ด การรันทดสอบซ้ำจำนวนมาก การคัดแยกทิกเก็ต การวิเคราะห์ตลาด หรือการตรวจสอบความปลอดภัย เป้าหมายสำคัญจึงไม่ใช่การทำให้โมเดลเก่งขึ้นอย่างเดียว แต่คือการสร้างสภาพแวดล้อมที่เชื่อถือได้ ให้เอเจนต์ทำงานได้อย่างสม่ำเสมอ คุมต้นทุนได้ และขยายจากงานทดลองไปสู่การใช้งานจริงในองค์กรได้อย่างมั่นใจ