導(dǎo)讀:隨著DeepSeek大模型的開源,將重構(gòu)邊緣計算生態(tài),以“低成本、快部署、強適配”的特性,為邊緣計算在政務(wù)、能源、生產(chǎn)安全、民生和農(nóng)業(yè)等場景的規(guī)?;涞亻_辟新路徑。
長期以來,邊緣計算領(lǐng)域面臨“硬件定制化周期長、算法開發(fā)成本高、場景適配難度大”三重壁壘,導(dǎo)致其落地應(yīng)用呈現(xiàn)碎片化特點。
但隨著DeepSeek大模型的開源,將重構(gòu)邊緣計算生態(tài),以“低成本、快部署、強適配”的特性,為邊緣計算在政務(wù)、能源、生產(chǎn)安全、民生和農(nóng)業(yè)等場景的規(guī)?;涞亻_辟新路徑。
算法革新:從定制開發(fā)到普惠的范式突破
在邊緣計算領(lǐng)域,傳統(tǒng)AI模型落地依賴“芯片-算法-方案”三位一體的硬件定制化路徑,不僅面臨長達數(shù)月的開發(fā)周期,其中算法環(huán)節(jié)更是需砸數(shù)百萬甚至千萬級的研發(fā)投入。
DeepSeek的開源徹底顛覆了這一格局,其底層算法框架的開放,使開發(fā)者可直接基于開源代碼進行本地化調(diào)優(yōu),如今企業(yè)僅需數(shù)十萬級投入,即可在開源算法基礎(chǔ)上完成行業(yè)應(yīng)用延伸。
以工業(yè)質(zhì)檢場景為例,以往需定制化開發(fā)的CV模型,如今可通過DeepSeek的大模型普適性能力快速遷移,避免了傳統(tǒng)CV模型“一場景一訓(xùn)練”的高成本困局。
但從應(yīng)用端來看,目前邊緣計算產(chǎn)品出貨量仍以CV算法為主。業(yè)內(nèi)人士表示,大模型開源不過短短數(shù)月,基于大模型的開源算法目前還沒有真正需求和訂單落地,預(yù)測今年下半年會有零散訂單,真正大批量估計要到明年。
算力優(yōu)化:架構(gòu)創(chuàng)新與效率提升驅(qū)動算力下沉
相比于傳統(tǒng)大模型,DeepSeek通過架構(gòu)創(chuàng)新降低必要算力、算法優(yōu)化提升算力效率和場景定制減少冗余算力,使得同等效果下算力需求銳減,將大模型部署的算力門檻從天價拉低至消費級水平。
業(yè)內(nèi)人士表示,邊緣端運行大模型的算力一般在20T-100T之間,主要看運行的模型大?。?.5b、7b、8b、14b、32b、70b、671b),32b基本可以滿足大部分需求。
雖然運行DeepSeek模型對算力的要求不高,但其對顯存有特定要求;比如運行DeepSeek-r132b-qwen-distill-q8_0模型,顯存占用在40G左右。
目前,邊緣計算領(lǐng)域適配大模型應(yīng)用的芯片廠家主要以英偉達為主,國產(chǎn)芯片則主要以瑞芯微RK3588、算能BM1684X和BM1688、愛芯元智AX630C和AX650N、后摩等企業(yè)為主。
但根據(jù)調(diào)研了解,當(dāng)前在邊緣計算領(lǐng)域,大模型應(yīng)用仍然聚焦于單點應(yīng)用,并未形成規(guī)模化,大部分應(yīng)用仍然以小模型為主。未來,小模型應(yīng)用將長期存在,大模型將補充小模型的精確度,兩者應(yīng)用形成互補關(guān)系。
場景落地:政務(wù)民生多領(lǐng)域突破
對中小企業(yè)和邊緣場景而言,硬件成本的大幅降低將帶來更多的場景應(yīng)用。
在政府辦公領(lǐng)域,基于DeepSeek構(gòu)建的本地化問答系統(tǒng),可直接調(diào)用內(nèi)部法規(guī)數(shù)據(jù)庫,避免互聯(lián)網(wǎng)數(shù)據(jù)的“幻覺”問題,準確率接近100%。
這種“數(shù)據(jù)不出域”的特性,既滿足了政務(wù)場景的保密需求,又將咨詢響應(yīng)效率提升5倍以上,目前已在多地政務(wù)大廳試點部署。
在居家養(yǎng)老、智慧社區(qū)等場景,輕量化模型正實現(xiàn)“最后一米”的智能覆蓋。場景集成跌倒檢測、用藥提醒等功能,單設(shè)備成本控制在千元級,已進入上海、北京等地的社區(qū)試點。這種“低門檻、高剛需”的模式,也標志著邊緣計算從B端向C端的滲透加速。
現(xiàn)實挑戰(zhàn):開源模型需深度調(diào)優(yōu),本地化適配成關(guān)鍵
盡管前景廣闊,邊緣計算領(lǐng)域仍面臨多重挑戰(zhàn)。
因DeepSeek的技術(shù)特性與訓(xùn)練機制共同作用的原因,導(dǎo)致其幻覺率顯著高于行業(yè)水平。在VectaraHHEM權(quán)威測試中,DeepSeek-R1的幻覺率高達14.3%,即使經(jīng)過優(yōu)化,2025年5月的SuperCLUE測評顯示,R1幻覺率仍為21%。
在實際應(yīng)用中,企業(yè)需要采取交叉驗證、提示詞優(yōu)化和行業(yè)數(shù)據(jù)注入等方式,將幻覺率從開源狀態(tài)的15%-20%降至5%以下,才能最大化利用AI能力。
多位業(yè)內(nèi)人士表示,雖然DeepSeek開源了,但是客戶直接拿過去是不會用的,需要包一個UI界面才能使用;另外,直接用開源的量化模型做部署是沒有意義的,還是要根據(jù)場景去調(diào)優(yōu)測試。
小結(jié)
展望未來,隨著DeepSeek與千問3等開源模型的迭代,邊緣計算將呈現(xiàn)“算力下沉、智能上移”的新趨勢。
當(dāng)“大模型開源+國產(chǎn)芯片崛起+行業(yè)場景爆發(fā)”形成共振,邊緣計算市場將迎來繼云計算之后又一次產(chǎn)業(yè)革命,而這場革命的核心驅(qū)動力,正是開源精神帶來的技術(shù)民主化浪潮。
近日,視覺物聯(lián)聯(lián)合AIoT星圖研究院正式啟動《2025邊緣計算市場調(diào)研報告》,將從技術(shù)發(fā)展與落地應(yīng)用等方面展開深度調(diào)研,揭示行業(yè)基本面,洞察競爭格局,為企業(yè)戰(zhàn)略制定、投資決策、市場拓展等提供結(jié)構(gòu)化的參考依據(jù)。
我們擬將調(diào)研更多深耕邊緣AI發(fā)展方向的企業(yè),并從中總結(jié)行業(yè)發(fā)展現(xiàn)狀以及未來發(fā)展趨勢,供其他企業(yè)參考,歡迎企業(yè)踴躍報名參加。