展會(huì)信息港展會(huì)大全

高通錢堃:將AI工作負(fù)載轉(zhuǎn)移到邊緣計(jì)算設(shè)備將解決電力消耗難題
來源:互聯(lián)網(wǎng)   發(fā)布日期:2024-11-22 13:52:29   瀏覽:65次  

導(dǎo)讀:新京報(bào)貝殼財(cái)經(jīng)訊(記者 覃澈)11月21日,2024年世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)數(shù)字化綠色化協(xié)同轉(zhuǎn)型發(fā)展論壇于浙江烏鎮(zhèn)舉行。高通公司全球高級(jí)副總裁錢表示,面對(duì)氣候變化帶來的挑戰(zhàn),前沿技術(shù)在提高效率、降低計(jì)算功耗等方面都將起到積極的重要作用。錢表示,隨著生成式AI應(yīng)用的激增,數(shù)據(jù)中心的電力消耗也隨之增加,尤其是使用生成式AI進(jìn)行搜索推理的電力消耗是傳統(tǒng)網(wǎng)絡(luò)搜索的十倍 ......

新京報(bào)貝殼財(cái)經(jīng)訊(記者 覃澈)11月21日,2024年世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)數(shù)字化綠色化協(xié)同轉(zhuǎn)型發(fā)展論壇于浙江烏鎮(zhèn)舉行。高通公司全球高級(jí)副總裁錢表示,面對(duì)氣候變化帶來的挑戰(zhàn),前沿技術(shù)在提高效率、降低計(jì)算功耗等方面都將起到積極的重要作用。

錢表示,隨著生成式AI應(yīng)用的激增,數(shù)據(jù)中心的電力消耗也隨之增加,尤其是使用生成式AI進(jìn)行搜索推理的電力消耗是傳統(tǒng)網(wǎng)絡(luò)搜索的十倍。為了解決這一問題,除了在數(shù)據(jù)中心部署節(jié)能芯片外,將AI工作負(fù)載轉(zhuǎn)移到邊緣計(jì)算設(shè)備上也是一個(gè)有效的策略。采用混合AI架構(gòu)可以靈活地結(jié)合云和邊緣計(jì)算的優(yōu)勢(shì),“邊緣側(cè)終端設(shè)備,如智能手機(jī)、PC以及車輛等,完全有能力使用較小的模型來處理相應(yīng)的工作負(fù)載,而無需依賴云端資源!

“將更多的AI工作負(fù)載轉(zhuǎn)移到邊緣,并實(shí)現(xiàn)云端與邊緣側(cè)終端的協(xié)同處理,這將比以往任何時(shí)候都更加需要可靠、低時(shí)延且端到云的連接!卞X稱,“高通攜手合作伙伴積極推動(dòng)5G技術(shù)向5G Advanced演進(jìn)。5G Advanced重點(diǎn)關(guān)注面向終端和網(wǎng)絡(luò)的專屬節(jié)能特性,并持續(xù)探索端到端的節(jié)能技術(shù)機(jī)遇,助力構(gòu)建更加綠色節(jié)能的網(wǎng)絡(luò)。”

校對(duì) 楊許麗

贊助本站

相關(guān)內(nèi)容
AiLab云推薦
展開

熱門欄目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能實(shí)驗(yàn)室 版權(quán)所有    關(guān)于我們 | 聯(lián)系我們 | 廣告服務(wù) | 公司動(dòng)態(tài) | 免責(zé)聲明 | 隱私條款 | 工作機(jī)會(huì) | 展會(huì)港