《科技創(chuàng)新板日報》2月8日訊(編輯 郭輝) “80元打造個人語音助手”、“150塊DIY豆包智能機器人”...隨著DeepSeek的爆發(fā),個人用戶一夜之間部署了AI大模型“出圈”。
科技界圍繞人工智能降低成本的工作不是一蹴而就的。業(yè)內(nèi)人士表示,DeepSeek在算法層面的推理成本優(yōu)化為國內(nèi)計算能力芯片和計算集群網(wǎng)絡(luò)等硬件端的發(fā)展贏得了更多的空間,軟硬件成本的降低也將為國內(nèi)人工智能應(yīng)用帶來機遇,從而形成產(chǎn)業(yè)發(fā)展的積極循環(huán)。
越來越多的個人開發(fā)者部署低成本的人工智能模型實踐,讓公眾更清楚地認(rèn)識到人工智能包容性時代已經(jīng)到來,終端人工智能著陸箭在弦上。PC產(chǎn)品被認(rèn)為是終端人工智能模型著陸的第一站。接受采訪的供應(yīng)鏈人士認(rèn)為,目前更大的想象空間仍在智能眼鏡、人工智能玩具等智能身體的應(yīng)用中,DeepSeek帶來的輕型模型將對智能終端行業(yè)產(chǎn)生積極的影響。
個人用戶部署大模型很受歡迎 40元開發(fā)板月售萬件
“80元買一塊開發(fā)板,按照教程連接硬件和燒錄固件,就可以訪問DeepSeek等大型模型,打造個人語音助手系統(tǒng)。”在技術(shù)社區(qū),一些開發(fā)者分享了部署人工智能的技術(shù)帖子。
不僅如此,《科技創(chuàng)新委員會日報》編輯還注意到,花150元建造一個豆袋智能機器人,358元建造一個接入大型模型和手勢識別、觸摸交互的機器人??梢哉f,最近的持續(xù)爆炸使得人工智能模型部署的知識交流也很熱,也使人工智能智能工具的低成本建設(shè)進入了更廣泛的公眾視野。
“萬能淘寶”和技術(shù)開源貢獻加速了這一切進入現(xiàn)實。
據(jù)了解,以上方案都是基于樂信科技的ESP系列芯片。在淘寶上搜索ESP32關(guān)鍵詞,可以看到很多商家賣開發(fā)板或者套件,包括樂信的官方企業(yè)店。不同套件的價格可以低至20元,屏幕、揚聲器、麥克風(fēng)套件的價格可以高至340元。
《科技創(chuàng)新板日報》編輯注意到,一套價格80元的聊天機器人ESP32-S3開發(fā)套件,全網(wǎng)銷量已超過1000件;價格40元的ESP32-S3開發(fā)板顯示月銷量超過1萬件。
在評論區(qū),大多數(shù)消費者都是個人開發(fā)者。購買商品后,商家將附上教學(xué)視頻,并為用戶提供技術(shù)支持。
“新手小白也可以一站式操作”、“老板教我12:30(晚上)、“老板還在教我晚上10點燒錄”...很多買家反饋產(chǎn)品購買體驗。
據(jù)樂信科技報道,其ESP32-S3芯片硬件具有加速神經(jīng)網(wǎng)絡(luò)計算和信號處理的向量指令,人工智能開發(fā)者通過ESP-DSP和ESP-使用這些向量指令,NN庫可以實現(xiàn)高性能的圖像識別、語音喚醒和識別。
一些開發(fā)者表示,ESP32-S3支持在本地離線運行一些人工智能模型,如語音識別、人臉識別和移動檢測。然而,大多數(shù)自然語言對話交互仍然需要在線訪問大型語言模型。
恒玄科技、中科藍(lán)訊、聚芯科技等公司的SOC芯片除樂信科技外,還應(yīng)用于終端AI部署。
其中,恒玄科技應(yīng)用于可穿戴設(shè)備中的BECO嵌入式AI協(xié)處理器,可以與主CPU核心合作,完成基于神經(jīng)網(wǎng)絡(luò)AI算法的音頻處理,同時保持較低的功耗水平。
聚芯科技將低功耗人工智能加速引擎集成到最新一代產(chǎn)品中,采用基于SRAM的存儲計算技術(shù),并逐步將產(chǎn)品升級為CPU、DSP加NPU三核異構(gòu)計算架構(gòu),打造低功耗端AI計算能力。
產(chǎn)業(yè)鏈人士:看好DeepSeek對AI端側(cè)的積極影響
DeepSeek的誕生,進一步為端側(cè)AI落地應(yīng)用開辟了想象空間。
據(jù)了解,通過蒸餾,大模型推理能力可以遷移到小參數(shù)模型,可以大大提高人工智能部署的靈活性。根據(jù)光大證券分析師劉凱2月6日發(fā)布的研究報告,蒸餾模型為1.5B、7B、8B、14B、32B、70B和其他版本,雖然蒸餾會失去一些能力,但更小的參數(shù)意味著更大的靈活性。第三方可以從DeepSeek-R1中蒸餾出更多版本的小參數(shù)模型,并部署到手機、筆記本電腦、智能家居產(chǎn)品等終端產(chǎn)品中。預(yù)計它將有助于提高硬件銷售,并出現(xiàn)更多基于人工智能服務(wù)的付費點。
端側(cè)人工智能的落地來勢洶涌,其前景也得到了產(chǎn)業(yè)鏈人士的證實和樂觀。
一家存儲芯片制造商告訴《科技創(chuàng)新委員會日報》,DeepSeek對人工智能側(cè)存儲有積極的影響,目前對端側(cè)人工智能智能眼鏡產(chǎn)品的著陸特別樂觀。從行業(yè)的角度來看,海外公司Meta的人工智能眼鏡是32GB容量+2GB配置,大型模型可以作為本地化工具使用,未來智能眼鏡的存儲容量可能會增加。
該人士表示,“預(yù)計今年國內(nèi)智能眼鏡肯定會爆發(fā),至少在2026年?!?/p>
國內(nèi)消費電子配套芯片公司的一位人士告訴《科技創(chuàng)新委員會日報》,盡管他們的產(chǎn)品幾乎在產(chǎn)業(yè)鏈的頂端,但他們?nèi)匀豢梢愿惺艿紻eepSeek對智能終端行業(yè)的積極影響?!痹谌斯ぶ悄芙档统杀竞螅K端應(yīng)用程序預(yù)計將大幅爆發(fā),并繼續(xù)對眼鏡、玩具、人工智能手機持樂觀態(tài)度AI PC等消費電子產(chǎn)品。
華安證券分析師陳耀波在2月6日發(fā)布的研究報告中表示,端側(cè)人工智能能力的實現(xiàn)需要端側(cè)人工智能模型的實施。從國內(nèi)手機制造商的角度來看,他們都推出了文檔摘要、人工智能修復(fù)等端人工智能功能,包括華為的盤古模型和小米的MiLM、基于DeepSeeekR1,vivo的藍(lán)心大模型在推理能力上表現(xiàn)出色。如果能進入AI智能終端,就會推出AI功能強大的產(chǎn)品,有望提升用戶體驗。
以人工智能眼鏡產(chǎn)業(yè)鏈為例,光大證券表示,對與日常需求相結(jié)合產(chǎn)生的巨大市場空間持樂觀態(tài)度。建議關(guān)注恒軒科技、中科藍(lán)訊、星辰科技、富漢微、云天勵飛-U、聚芯科技等SOC芯片制造商;以及普然股份、兆易創(chuàng)新、百維存儲、長盈精密等部件。
Deepseek為國內(nèi)硬件端的發(fā)展?fàn)幦「嗟目臻g
PC產(chǎn)品還包括兩個屬性:生產(chǎn)力工具和個人智能管家,被認(rèn)為是端側(cè)模型的第一站。在一些PC主機制造商的領(lǐng)導(dǎo)下,DeepSeek模型和國產(chǎn)計算芯片的適應(yīng)性進展超出了許多人的想象。
《科技創(chuàng)新委員會日報》編輯了解到,最近配備龍芯中科3A6000處理器的新創(chuàng)PC宣布實現(xiàn)本地化部署。據(jù)成邁科技報道,實現(xiàn)本地部署后,DepSeek不需要依賴云服務(wù)器,避免了網(wǎng)絡(luò)波動或服務(wù)器過載造成的服務(wù)中斷,確保了信息安全。例如,在涉及大量敏感信息和個人隱私的場景中,用戶可以完成文檔處理、數(shù)據(jù)分析、內(nèi)容創(chuàng)建、圖片編輯和代碼生成,防止數(shù)據(jù)泄露。
國內(nèi)GPU制造商沐曦與聯(lián)想合作,推出DeepSeek智能一體機,解決快速部署的問題。該產(chǎn)品配備了聯(lián)想AI Force智能體開發(fā)平臺深度整合DeepSeek等主流大型模型庫,通過私有化部署實現(xiàn)安全合規(guī)、高度定制和再開發(fā)能力。測量數(shù)據(jù)顯示,在相同的并發(fā)條件下,沐曦Xin260 Qwen2GPU.5-14B模型推理實測性能達(dá)到NVIDIA L20 GPU的110%-130%可以支持DepSeek各種參數(shù)蒸餾模型推理的本地部署。
DeepSeeek作為開源模型,除了本地化部署外,還通過各大云計算平臺為中小企業(yè)和個人用戶提供人工智能服務(wù)資源。
一些業(yè)內(nèi)人士告訴《科技創(chuàng)新委員會日報》,從商業(yè)模式的角度來看,DeepSeek目前處于開源狀態(tài),云計算平臺可以遵循開源協(xié)議。對于用戶來說,計算平臺可能會增加計算成本或相關(guān)服務(wù)成本,但考慮到算法模型公司的資產(chǎn)投資,云計算平臺作為一個“賣家”,仍然是一個相對高效和穩(wěn)定的選擇。事實上,“最近的熱點使得對計算平臺的需求顯著增加”。
該消息人士還表示,基于主流云平臺的異構(gòu)計算方案,DeepSeek也在一定程度上推動了國內(nèi)大型計算芯片和異構(gòu)計算方案被市場接受,進一步降低了人工智能培訓(xùn)成本。
目前,阿里巴巴、騰訊、超級計算機互聯(lián)網(wǎng)等計算能力平臺已經(jīng)推出了DeepSeek系列模型。在算法和計算能力網(wǎng)絡(luò)的共同優(yōu)化下,云計算平臺適應(yīng)了DepSeek模型,并提供了服務(wù),降低了終端訪問大型模型的成本和部署閾值。
以阿里云為例,用戶可以一鍵部署DeepSek-V3,無需編寫代碼。、DeepSeek-R1,實現(xiàn)了從模型培訓(xùn)到部署再到推理的整個過程,大大簡化了人工智能模型的開發(fā)過程。在價格成本方面,阿里巴巴云服務(wù)用戶可以選擇公共資源組來節(jié)省計劃,或購買預(yù)付費EAS資源組來節(jié)省成本。超級計算互聯(lián)網(wǎng)平臺不需要用戶部署或復(fù)雜操作。它可以使用DeepSeek模型打開盒子,并提供無限的免費體驗服務(wù)。
“與本地部署相比,端側(cè)大模型的在線訪問更容易,但總的來說,DeepSeek確實降低了更多人工智能應(yīng)用程序的軟硬件成本?!币恍┯嬎隳芰π袠I(yè)人士表示,DeepSeek在算法層面的優(yōu)化為國內(nèi)硬件端的發(fā)展贏得了更多的空間,也為國內(nèi)人工智能應(yīng)用帶來了機遇,進一步加強了國內(nèi)人工智能從算法、計算能力到應(yīng)用的生態(tài)閉環(huán)。
編輯:金杜