DeepSeek บริษัทด้านเอไอจากจีนประกาศเปิดตัวซอฟต์แวร์โอเพนซอร์สชื่อ DeepInfer โดยตั้งเป้าให้โมเดลเอไอของบริษัททำงานได้เร็วขึ้นและใช้ทรัพยากรคำนวณอย่างมีประสิทธิภาพมากขึ้น แนวทางนี้มุ่งแก้ปัญหาต้นทุนโครงสร้างพื้นฐานที่สูง ซึ่งเป็นอุปสรรคสำคัญของผู้พัฒนาและผู้ให้บริการที่ต้องรันโมเดลขนาดใหญ่ต่อเนื่อง…
บทความชี้ว่าเมื่อองค์กรพูดถึงต้นทุนของ AI ภาพที่มักนึกถึงคือ GPU, พลังงานไฟฟ้า และการลงทุนฝั่งคอมพิวต์ แต่ความจริงแล้ว “สตอเรจ” กลายเป็นค่าใช้จ่ายก้อนใหญ่ที่ถูกมองข้ามบ่อยครั้ง โดยเฉพาะในยุคที่การใช้งาน AI แบบ inference เดินหน้าอย่างต่อเนื่องทุกครั้งที่มีคำสั่งจากผู้ใช้ ไม่ได้จบลงเหมือนการเทรนโมเดล…
Meta เปิดเผยโมเดล AI แบบโอเพนเวตตัวใหม่ที่บริษัทระบุว่าเป็นหนึ่งในโมเดลฝั่งสหรัฐที่มีความสามารถสูงที่สุดในกลุ่มนี้ โดยจุดเด่นคือเปิดให้นำไปใช้งานต่อได้มากกว่าระบบปิด แต่ข้อแลกเปลี่ยนคือขนาดของโมเดลที่ใหญ่ผิดปกติจนไม่เหมาะกับเครื่องทั่วไป โดยเฉพาะหากตั้งใจจะรันบน Mac ด้วยสเปกมาตรฐาน รายงานระบุว่า…
Intel เปิดตัว GPU ตระกูล D-Series สำหรับงาน AI ภายใต้โค้ดเนม Crescent Island โดยชูจุดเด่นด้านหน่วยความจำขนาดใหญ่ผิดปกติเมื่อเทียบกับการ์ดจอฝั่งผู้บริโภค รุ่นนี้รองรับ LPDDR5X ได้สูงสุด 480GB พร้อมแบนด์วิดท์ระดับ 1.5TB/s และประสิทธิภาพคำนวณ FP8 สูงถึง 1.3 petaflops ภายใต้กรอบการใช้พลังงาน 350 วัตต์…
Anthropic เปิดตัว Claude Haiku 5.5 ในฐานะโมเดลขนาดเล็กตัวใหม่ที่บริษัทระบุว่าเป็นรุ่นที่ทำงานได้เร็วที่สุดและมีต้นทุนต่ำที่สุดในกลุ่มโมเดลขนาดเล็กของตน โดยตั้งเป้าไปที่งานที่ต้องประมวลผลจำนวนมากและต้องคุมงบประมาณเป็นหลัก บริษัทอธิบายว่าโมเดลนี้เหมาะกับงานที่ไม่ได้ต้องการเหตุผลเชิงลึกซับซ้อนเท่ารุ่น…
Lola Vision Systems เป็นหนึ่งในบริษัทจากรายการ Battlefield 200 ของ TechCrunch ที่กำลังพัฒนาแนวทางเพื่อลดความซับซ้อนของการนำโมเดล AI ไปใช้งานบนชิปหลากหลายประเภท โดยมุ่งแก้ปัญหาที่นักพัฒนาและองค์กรจำนวนมากพบเมื่อต้องย้ายโมเดลจากสภาพแวดล้อมฝึกสอนไปสู่การใช้งานจริงบนฮาร์ดแวร์ที่มีข้อจำกัดด้านพลังประมวล…
Modal Labs ผู้ให้บริการโครงสร้างพื้นฐานสำหรับงาน AI inference กำลังเข้าใกล้การปิดรอบระดมทุนขนาดใหญ่ราว 750 ล้านดอลลาร์ โดยมีรายงานว่า Accel เป็นผู้นำการลงทุนในรอบนี้ หากดีลเสร็จสิ้น มูลค่ากิจการหลังนับเงินลงทุนจะอยู่ที่ประมาณ 15.75 พันล้านดอลลาร์ ซึ่งสะท้อนความร้อนแรงของตลาดโครงสร้างพื้นฐาน AI ที่…
บทความชี้ว่า “ยุคของ AI inference” ได้มาถึงแล้ว และสิ่งนี้กำลังเปลี่ยนวิธีคิดเรื่องโครงสร้างพื้นฐานดาต้าเซ็นเตอร์อย่างมีนัยสำคัญ จากเดิมที่องค์กรจำนวนมากโฟกัสเรื่องพลังการประมวลผลเป็นหลัก ตอนนี้ประเด็นสำคัญย้ายไปอยู่ที่ความหน่วงเวลา แบนด์วิดท์ของหน่วยความจำ อัตราการส่งผ่านของสตอเรจ และเครือข่ายที่…
OpenAI เปิดตัวการพรีวิวบริการรูปแบบใหม่สำหรับการรันโมเดลระดับท็อปอย่าง GPT-5.6 Sol โดยชูจุดขายหลักคือความเร็วในการประมวลผลที่สูงขึ้นอย่างมากเมื่อเทียบกับการใช้งานมาตรฐาน บริษัทระบุว่าโหมด Ultrafast สามารถทำงานได้เร็วขึ้นได้สูงสุดถึง 14 เท่า ซึ่งสะท้อนว่า OpenAI กำลังผลักดันการให้บริการโมเดลขนาดใหญ่…
Verizon เปิดเผยความพยายามครั้งใหญ่ในการชิงส่วนแบ่งจากกระแสลงทุนด้าน AI ของบริษัทเทคฯ โดยประกาศดีลมูลค่ากว่า 1 พันล้านดอลลาร์สหรัฐกับ Google เพื่อเชื่อมต่อศูนย์ข้อมูลของกูเกิลผ่านเครือข่ายดาร์กไฟเบอร์ของ Verizon พร้อมระบุว่านี่เป็นเพียงจุดเริ่มต้นของแผนเชิงรุกในธุรกิจใหม่ที่บริษัทเรียกว่า “AI Connect…