DeepSeek เปิดซอร์สซอฟต์แวร์ใหม่ ลดต้นทุนการรันโมเดล AI
DeepSeek บริษัทด้านเอไอจากจีนประกาศเปิดตัวซอฟต์แวร์โอเพนซอร์สชื่อ DeepInfer โดยตั้งเป้าให้โมเดลเอไอของบริษัททำงานได้เร็วขึ้นและใช้ทรัพยากรคำนวณอย่างมีประสิทธิภาพมากขึ้น แนวทางนี้มุ่งแก้ปัญหาต้นทุน…
DeepSeek บริษัทด้านเอไอจากจีนประกาศเปิดตัวซอฟต์แวร์โอเพนซอร์สชื่อ DeepInfer โดยตั้งเป้าให้โมเดลเอไอของบริษัททำงานได้เร็วขึ้นและใช้ทรัพยากรคำนวณอย่างมีประสิทธิภาพมากขึ้น แนวทางนี้มุ่งแก้ปัญหาต้นทุนโครงสร้างพื้นฐานที่สูง ซึ่งเป็นอุปสรรคสำคัญของผู้พัฒนาและผู้ให้บริการที่ต้องรันโมเดลขนาดใหญ่ต่อเนื่อง
การเปิดซอร์สเครื่องมือนี้สะท้อนกลยุทธ์ของ DeepSeek ที่ต้องการทำให้การใช้งานโมเดลเอไอมีต้นทุนต่ำลง โดยเฉพาะในขั้นตอนการประมวลผลคำตอบหรือ inference ซึ่งมักใช้พลังการคำนวณจำนวนมากและเป็นส่วนที่สร้างค่าใช้จ่ายสูงเมื่อระบบถูกใช้งานในวงกว้าง
แม้รายละเอียดเชิงเทคนิคในข่าวสั้นฉบับนี้จะมีไม่มาก แต่สาระสำคัญคือ DeepInfer ถูกออกแบบมาเพื่อเพิ่มประสิทธิภาพของการทำงานเบื้องหลัง ลดการใช้ทรัพยากรเกินจำเป็น และช่วยให้การให้บริการโมเดลเอไอสามารถขยายตัวได้คุ้มค่ากว่าเดิม ซึ่งเป็นประเด็นที่ผู้เล่นในอุตสาหกรรมให้ความสนใจอย่างมากในช่วงที่การแข่งขันด้านเอไอรุนแรงขึ้น
การเคลื่อนไหวครั้งนี้ยังสอดคล้องกับแนวโน้มในตลาดเอไอที่หลายบริษัทพยายามหาวิธีลดต้นทุนการประมวลผล เพื่อให้การนำโมเดลขนาดใหญ่ไปใช้งานจริงทำได้ง่ายขึ้น ทั้งในมุมของผู้ให้บริการคลาวด์ ผู้พัฒนาแอปพลิเคชัน และองค์กรที่ต้องแบกรับค่าใช้จ่ายด้านฮาร์ดแวร์และการประมวลผลจำนวนมาก
