知名分析師郭明錤日前發(fā)文指出,DeepSeek爆紅后,端側(cè)AI趨勢(shì)將加速。DeepSeek的爆紅直接提升英偉達(dá)H100的訓(xùn)練需求,這證明優(yōu)化訓(xùn)練方式(也可視為成本降低)有助訓(xùn)練需求;另一個(gè)更顯著的趨勢(shì)是興起了在本地端部署LLM的熱潮。
東吳證券王紫敬認(rèn)為,開(kāi)源和低成本讓模型層面的差距迅速縮小,為推理側(cè)應(yīng)用(包括端側(cè)和軟件)的爆發(fā)打下基礎(chǔ),小型團(tuán)隊(duì)不需要重資產(chǎn)投入就可以蒸餾出先進(jìn)小模型(適用于各類(lèi)端側(cè)mini場(chǎng)景),并且端側(cè)算力就可以跑通小模型,2025年或是端側(cè)的爆發(fā)元年。
據(jù)財(cái)聯(lián)社主題庫(kù)顯示,相關(guān)上市公司中:
全志科技多款產(chǎn)品可以服務(wù)于端側(cè)智能終端的應(yīng)用場(chǎng)景。
樂(lè)鑫科技表示,在端側(cè)AI的布局早在2019年上市募投項(xiàng)目時(shí)就開(kāi)始了,第一款帶端側(cè)AI功能的AIoT芯片ESP32-S3于2020年底發(fā)布,在2023年開(kāi)始放量,目前是和AI應(yīng)用相關(guān)的主力產(chǎn)品線,增速很快。
編輯:金杜