Kog ชี้ GPU ยังเร่งงานเอเจนต์ AI ได้อีก ด้วยการจูนการประมวลผลให้ลึกขึ้น
สตาร์ทอัพฝรั่งเศส Kog มองว่าความเชื่อที่ว่า GPU ไม่เหมาะกับเวิร์กโฟลว์แบบเอเจนต์หรือ agentic AI อาจไม่ถูกต้องทั้งหมด โดยบริษัทเชื่อว่ายังมีพื้นที่ให้ปรับแต่งและดึงประสิทธิภาพการอนุมาน (inference) จาก GPU ได้มากกว่านี้อีกมาก
แนวคิดของ Kog คือการลงไปจัดการเชิงลึกกับวิธีประมวลผลของ GPU เพื่อให้รับภาระงานของโมเดล AI ที่ทำงานแบบต่อเนื่อง มีการตัดสินใจหลายขั้น และต้องเรียกใช้เครื่องมือหรือโพรเซสจำนวนมากได้มีประสิทธิภาพขึ้น แทนที่จะมองว่า GPU เหมาะแค่กับการรันโมเดลขนาดใหญ่แบบดั้งเดิมเท่านั้น
ประเด็นนี้สะท้อนการแข่งขันในตลาดโครงสร้างพื้นฐาน AI ที่กำลังพยายามหาวิธีลดต้นทุนต่อคำสั่ง เพิ่มความเร็วตอบสนอง และใช้งานฮาร์ดแวร์ที่มีอยู่ให้คุ้มค่าที่สุด โดยเฉพาะในช่วงที่ความต้องการ inference พุ่งสูงกว่าการเทรนโมเดลในหลายกรณี
สำหรับ Kog การทำให้ GPU ทำงานได้ดีขึ้นกับงานเอเจนต์อาจช่วยเปิดทางให้ระบบ AI รุ่นใหม่ทำงานได้คล่องตัวกว่าเดิม ทั้งในด้าน latency, throughput และต้นทุนต่อการใช้งาน ซึ่งเป็นปัจจัยสำคัญสำหรับผู้ให้บริการ AI และองค์กรที่ต้องการนำเอเจนต์ไปใช้งานจริงในระดับใหญ่
โดยรวมแล้ว บทความชี้ว่าแม้ข้อจำกัดของ GPU จะมีอยู่จริง แต่ยังอาจไม่ได้เป็นอุปสรรคถาวร หากมีการออกแบบซอฟต์แวร์และการจัดการทรัพยากรที่เหมาะสม Kog จึงกำลังเดิมพันว่าการเพิ่มประสิทธิภาพเชิงลึกจะทำให้ GPU ยังเป็นแกนหลักของงาน inference ยุค agentic AI ได้ต่อไป
