PrismML นำ LLM ขนาดจิ๋วลงสู่แว่นอัจฉริยะที่ใช้ชิป Qualcomm
PrismML กำลังผลักดันแนวทาง AI แบบทำงานบนอุปกรณ์โดยตรงให้ไปไกลกว่าเดิม ด้วยการนำโมเดลภาษาขนาดเล็กของบริษัทไปใช้กับแว่นอัจฉริยะที่ขับเคลื่อนด้วยชิป Qualcomm ซึ่งสะท้อนทิศทางของอุตสาหกรรมที่ต้องการให้ AI ทำงานได้เร็วขึ้น เป็นส่วนตัวมากขึ้น และพึ่งพาคลาวด์น้อยลง
จุดเด่นของแนวทางนี้คือการใช้โมเดลที่มีขนาดเล็กพอจะรันบนฮาร์ดแวร์ที่มีอยู่แล้วของอุปกรณ์สวมใส่ แทนที่จะต้องส่งข้อมูลกลับไปประมวลผลบนเซิร์ฟเวอร์จากระยะไกล แนวคิดดังกล่าวช่วยลดความหน่วง ประหยัดพลังงานในบางกรณี และทำให้ฟีเจอร์ AI ใช้งานได้ต่อเนื่องแม้การเชื่อมต่ออินเทอร์เน็ตไม่ดี
สำหรับ PrismML เป้าหมายใหญ่ไม่ได้หยุดอยู่แค่แว่นอัจฉริยะ แต่คือการผลักดัน open-weight AI ที่สามารถทำงานบนอุปกรณ์ปลายทางหลากหลายประเภท โดยใช้ประสิทธิภาพการประมวลผลที่มีอยู่แล้วให้คุ้มค่าที่สุด แนวทางนี้สอดคล้องกับกระแสในวงการที่กำลังมองหาโมเดลขนาดเล็กแต่มีประสิทธิภาพมากพอสำหรับงานจริงบน edge device
การไปอยู่บนแว่นอัจฉริยะที่ใช้ชิป Qualcomm ยังชี้ให้เห็นความสำคัญของการจับคู่ระหว่างซอฟต์แวร์ AI กับฮาร์ดแวร์เฉพาะทาง เพราะการทำให้โมเดลภาษาเข้าไปอยู่ในอุปกรณ์ที่มีข้อจำกัดด้านแบตเตอรี่ ความร้อน และหน่วยความจำ ต้องอาศัยการปรับแต่งอย่างมาก ทั้งในแง่ขนาดโมเดลและรูปแบบการทำงาน
ในภาพรวม ข่าวนี้สะท้อนการเปลี่ยนผ่านของ AI จากระบบขนาดใหญ่บนคลาวด์ไปสู่การประมวลผลบนอุปกรณ์ที่เล็กลงและใกล้ผู้ใช้มากขึ้น หากแนวทางของ PrismML ได้ผลจริง ก็อาจเป็นอีกก้าวสำคัญของตลาดอุปกรณ์สวมใส่ที่ต้องการฟีเจอร์อัจฉริยะซึ่งทำงานได้สะดวก รวดเร็ว และเป็นส่วนตัวกว่าเดิม
