中新經(jīng)緯2月5日電 題:DeepSeek本地部署加速端側(cè)AI推廣落地
作者 舒迪 國泰君安證券研究所電子行業(yè)首席分析師
春節(jié)期間,DeepSeek以其獨特的創(chuàng)新力,正逐步打開AI應(yīng)用產(chǎn)業(yè)的上升通道。模型正式發(fā)布以來,DeepSeek連續(xù)多日登頂蘋果App Store和谷歌Play Store全球下載榜首。DeepSeek通過多項工程創(chuàng)新,成功降低了訓(xùn)練成本和推理成本,同時提升了模型效果。
盡管DeepSeek觸發(fā)了模型降本,但算力需求卻并未減少,在多個層面呈現(xiàn)出增長趨勢。隨著AI應(yīng)用模型向更高智能維度躍遷,訓(xùn)練需要更多算力;AI應(yīng)用的推理也廣泛需要算力支持,更多人開始訓(xùn)練和推理自己的模型;同時,轉(zhuǎn)向?qū)Φ犬悩?gòu)計算的新主流計算形態(tài)也需要更多GPU(圖形處理器)。未來,從對話到任務(wù)、到多模態(tài),AI的發(fā)展將需要更多算力加持。
同時,以DeepSeek為代表的開源模型興起加速了人工智能生態(tài)的構(gòu)建,而DeepSeek的本地部署更是讓個人知識庫的構(gòu)建成為可能。許多企業(yè)已經(jīng)意識到,開源且具有廣泛共識的模型更容易構(gòu)建生態(tài)系統(tǒng)。DeepSeek蒸餾(指的是通過一系列算法和策略,將原始的、復(fù)雜的數(shù)據(jù)進行去噪、降維、提煉等操作)后的小模型表現(xiàn)出色,使得本地部署知識庫從企業(yè)端擴展到個人用戶。通過高效且靈活地構(gòu)建私有化的AI知識管理系統(tǒng),不僅保護了數(shù)據(jù)隱私,還可以根據(jù)特定需求進行定制優(yōu)化。
在端側(cè)產(chǎn)品設(shè)計中,算力和傳輸是關(guān)鍵因素。隨著蒸餾模型能力的提升,未來端側(cè)SoC(系統(tǒng)級芯片)將更加注重模型的本地部署和推理能力。端云協(xié)同升級將成為未來技術(shù)發(fā)展的必然趨勢,端側(cè)產(chǎn)品需要在有限的硬件資源下實現(xiàn)高效的計算和傳輸,而云端則需要提供更強大的計算能力和存儲支持。
此外,DeepSeek的開源發(fā)展也降低了成本,推動了應(yīng)用的繁榮。對于B端應(yīng)用來說,優(yōu)質(zhì)開源模型可以更好地用于垂類場景。成本的壓低將帶來使用場景的普及,從而帶動新的供給和需求。如今的AIGC(人工智能生成內(nèi)容)創(chuàng)作已經(jīng)呈現(xiàn)出類似的趨勢,若推理成本進一步降低,對于AI(人工智能)內(nèi)容的發(fā)展將有顯著推動。
展望未來,DeepSeek將繼續(xù)以其創(chuàng)新力和開源精神,推動AI技術(shù)的普及和應(yīng)用。從教育、娛樂應(yīng)用到電商場景,從AI視頻生成技術(shù)到AI硬件落地發(fā)展,DeepSeek都有望推動相關(guān)行業(yè)的變革與發(fā)展。(中新經(jīng)緯APP)
中新經(jīng)緯版權(quán)所有,未經(jīng)授權(quán),不得轉(zhuǎn)載或以其他方式使用。
責(zé)任編輯:孫慶陽