แหล่งรวมข่าวเทคโนโลยี
nerdsify
แท็ก

#transformer

สตาร์ตอัป AI กำลังไล่ล่าเทคโนโลยีถัดไปเหนือ Transformer
AI

สตาร์ตอัป AI กำลังไล่ล่าเทคโนโลยีถัดไปเหนือ Transformer

บทความของ MIT Technology Review ชี้ว่าแม้สถาปัตยกรรม Transformer จะเป็นรากฐานของโมเดลภาษาขนาดใหญ่เกือบทั้งหมดในปัจจุบัน แต่เทคโนโลยีนี้เริ่มกลายเป็นคอขวดมากขึ้นเรื่อย ๆ เมื่อโมเดลต้องทำงานกับข้อมูลที่ยาวขึ้น ซับซ้อนขึ้น และต้องรองรับงานประเภท reasoning หรือเอเจนต์ที่เก็บบริบทจำนวนมหาศาลไว้พร้อมกัน…