ชิป Jalapeño ของ OpenAI ทำคะแนนเด่นด้านงานอินเฟอเรนซ์ในสเกลใหญ่
รายงานของ TechCrunch ระบุว่า OpenAI กำลังพัฒนาชิปชื่อ Jalapeño ที่ออกแบบมาเพื่อรองรับงานอินเฟอเรนซ์ของโมเดล AI ในปริมาณมาก โดยเน้นประสิทธิภาพต่อพลังงานและความเร็วในการให้บริการมากกว่าการฝึกโมเดล…

รายงานของ TechCrunch ระบุว่า OpenAI กำลังพัฒนาชิปชื่อ Jalapeño ที่ออกแบบมาเพื่อรองรับงานอินเฟอเรนซ์ของโมเดล AI ในปริมาณมาก โดยเน้นประสิทธิภาพต่อพลังงานและความเร็วในการให้บริการมากกว่าการฝึกโมเดล เนื้อหาชี้ว่าการออกแบบลักษณะนี้สะท้อนความพยายามของบริษัทในการลดการพึ่งพาฮาร์ดแวร์จากผู้ผลิตภายนอก และเพิ่มความสามารถในการควบคุมต้นทุนการประมวลผลของระบบ AI ขนาดใหญ่


