สตาร์ทอัปฝรั่งเศส ZML เปิดซอฟต์แวร์ฟรีเร่งงานอินเฟอเรนซ์บนชิป AI หลายค่าย

ZML สตาร์ทอัปด้าน AI จากฝรั่งเศสที่ได้รับการสนับสนุนจากยาน เลคัน ผู้ได้รางวัล Turing Award ได้เปิดตัวซอฟต์แวร์ฟรีชื่อ ZML/LLMD ซึ่งออกแบบมาเพื่อช่วยให้การรันโมเดล AI มีต้นทุนต่ำลงและทำงานได้เร็วขึ้น โดยเฉพาะในขั้นตอน inference ที่มักเป็นภาระด้านค่าใช้จ่ายของการใช้งานจริง

ประเด็นสำคัญของผลิตภัณฑ์นี้คือความสามารถในการทำงานได้บนชิป AI หลายประเภท ไม่ได้ผูกกับผู้ผลิตรายใดรายหนึ่ง ช่วยให้องค์กรหรือผู้พัฒนาเลือกใช้ฮาร์ดแวร์ตามความคุ้มค่าและความพร้อมใช้งานได้มากขึ้น แนวทางนี้สอดคล้องกับกระแสในอุตสาหกรรมที่พยายามลดการพึ่งพาโครงสร้างพื้นฐานราคาแพงจากแพลตฟอร์มเฉพาะทาง

การปล่อยซอฟต์แวร์แบบฟรียังสะท้อนกลยุทธ์ของ ZML ในการผลักดันให้เครื่องมือของบริษัทถูกนำไปใช้งานกว้างขึ้น และสร้างแรงดึงดูดในตลาดที่แข่งขันสูงด้านประสิทธิภาพการประมวลผล AI หากเครื่องมือสามารถช่วยลดต้นทุนการ inference ได้จริง ก็อาจเป็นตัวเลือกที่น่าสนใจสำหรับทีมที่ต้องการขยายการใช้งานโมเดล AI โดยไม่เพิ่มค่าใช้จ่ายด้านชิปมากเกินไป

อ่านต่อที่แหล่งข่าว / Read the full story at TechCrunch