6月29日，騰AI開發(fā)者創(chuàng)享日廣東站在廣州成功舉辦。本次活動(dòng)匯聚人工智能領(lǐng)域頂尖人才，為開發(fā)者帶來(lái)騰AI生態(tài)最新進(jìn)展、案例實(shí)踐應(yīng)用及原生開發(fā)技術(shù)等分享，旨在凝聚開發(fā)者力量，共建全面開放的原生生態(tài)。
人工智能作為新一輪科技和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量，是打造新質(zhì)生產(chǎn)力的重要引擎。騰AI作為全面智能化的根基，通過(guò)分層開放的方式，攜手伙伴一起打造領(lǐng)先可靠的基礎(chǔ)軟硬件平臺(tái)，使能百模千態(tài)，賦能千行萬(wàn)業(yè)，推動(dòng)了產(chǎn)業(yè)生態(tài)的繁榮。至今，騰AI已發(fā)展開發(fā)者300多萬(wàn)，合作伙伴1600多家，解決方案認(rèn)證2900多個(gè)。今年，騰全面啟動(dòng)原生開發(fā)，讓模型性能更優(yōu)異，讓應(yīng)用開發(fā)更高效，后續(xù)，騰將持續(xù)從原生開發(fā)套件、原生使能計(jì)劃、原生人才培養(yǎng)三個(gè)方面加速騰原生生態(tài)構(gòu)建。
生態(tài)應(yīng)用成果落地大咖共話騰AI創(chuàng)新實(shí)踐
自2019年華為發(fā)布計(jì)算戰(zhàn)略以來(lái)，騰通過(guò)一站式遷移工具，將應(yīng)用快速地遷移到騰上來(lái)，消除生態(tài)壁壘，推進(jìn)了騰在中國(guó)的快速部署，目前，已廣泛服務(wù)于金融、電信、政府、互聯(lián)網(wǎng)等主要行業(yè)的核心業(yè)務(wù)場(chǎng)景，正在支撐行業(yè)數(shù)字化的轉(zhuǎn)型落地。
會(huì)上，來(lái)自業(yè)界的專家學(xué)者，圍繞大語(yǔ)言模型的發(fā)展趨勢(shì)、基于騰AI打造的平臺(tái)及其應(yīng)用落地等進(jìn)行分享，共話騰AI創(chuàng)新實(shí)踐。
復(fù)旦大學(xué)計(jì)算機(jī)學(xué)院教授，中國(guó)中文信息學(xué)會(huì)大模型專委會(huì)副主任邱錫鵬對(duì)大語(yǔ)言模型的發(fā)展歷程進(jìn)行了闡述，他認(rèn)為大模型是通過(guò)語(yǔ)言來(lái)構(gòu)建世界知識(shí)，而大語(yǔ)言模型的下一階段目標(biāo)是具身智能+世界模型，世界模型是一種能夠模擬和理解環(huán)境的模型，并在此基礎(chǔ)上進(jìn)行決策和預(yù)測(cè)的人工智能系統(tǒng)，它是未來(lái)具身智能最重要的基座。邱錫鵬表示未來(lái)大語(yǔ)言模型將會(huì)演化到世界模型，需要進(jìn)一步研究如何打造高效、安全、可信的基礎(chǔ)模型及探索實(shí)用、多元、復(fù)雜的應(yīng)用場(chǎng)景。
復(fù)旦大學(xué)計(jì)算機(jī)學(xué)院教授，中國(guó)中文信息學(xué)會(huì)大模型大搜索與生成專委會(huì)副主任邱錫鵬
華南理工大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院教授陸璐介紹了基于異構(gòu)算力平臺(tái)并行加速與性能優(yōu)化獲得的技術(shù)成果，包括：仿真模型資源評(píng)估、算子庫(kù)設(shè)計(jì)優(yōu)化、HPL、HPL-AI優(yōu)化及多卡通信優(yōu)化，通過(guò)上述能力，解決了鵬城實(shí)驗(yàn)室、廣州琶洲實(shí)驗(yàn)室等項(xiàng)目的多個(gè)瓶頸點(diǎn)，使得系統(tǒng)能更好的滿足產(chǎn)業(yè)需求，應(yīng)用于行業(yè)場(chǎng)景中。
華南理工大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院教授陸璐
佳都科技首席AI科學(xué)家王凱博士介紹，佳都深耕交通行業(yè)，發(fā)布了基于騰AI打造的知行交通行業(yè)大模型訓(xùn)推一體機(jī)和知行交通大模型V2.0，目前，已在多個(gè)行業(yè)場(chǎng)景落地。其中，知行交通智能體可根據(jù)智能運(yùn)維、應(yīng)急管理等業(yè)務(wù)場(chǎng)景自主規(guī)劃和反思，調(diào)用多種工具組合完成復(fù)雜任務(wù)。基于知行視覺(jué)大模型TransCore-V的智能視頻分析一體機(jī)，部署在車站、線網(wǎng)系統(tǒng)，可全方位覆蓋影響安全運(yùn)營(yíng)的各種異常行為場(chǎng)景，保障安全運(yùn)營(yíng)與乘客出行。基于知行多模態(tài)大模型TransCore-M的“佳翼云”AI大模型一體柜，是業(yè)界首款專為交通行業(yè)視頻智能應(yīng)用場(chǎng)景設(shè)計(jì)的AI大模型一體柜產(chǎn)品，通過(guò)自然語(yǔ)言對(duì)話，解決復(fù)雜場(chǎng)景視覺(jué)語(yǔ)義搜索難題，滿足不同場(chǎng)景對(duì)視頻智能化的應(yīng)用需求。知行時(shí)空決策的模型TransCore-TS融入到了華佳MOS地鐵智慧大腦、站臺(tái)門智慧運(yùn)維系統(tǒng)、節(jié)能控制柜等產(chǎn)品中，在地鐵線路客流預(yù)測(cè)、站臺(tái)門異常檢測(cè)、車站節(jié)能環(huán)控也實(shí)現(xiàn)了落地應(yīng)用。
佳都科技首席人工智能科學(xué)家兼通用大模型研究中心主任王凱
騰原生開發(fā)技術(shù)解密激發(fā)開發(fā)者原生動(dòng)力
面向未來(lái)，基于騰的原生生態(tài)，能夠開辟更大的產(chǎn)業(yè)空間，能持續(xù)不斷的引領(lǐng)原生創(chuàng)新，而這離不開高效、易用的基礎(chǔ)軟硬件平臺(tái)。為此，騰以異構(gòu)計(jì)算架構(gòu)CANN、全場(chǎng)景AI框架思MindSpore和推理引擎MindIE為基礎(chǔ)，基于一套架構(gòu)，面向算子、模型和應(yīng)用三個(gè)開發(fā)場(chǎng)景，對(duì)騰AI基礎(chǔ)軟件做了6大全棧升級(jí)。
會(huì)上，來(lái)自騰AI的技術(shù)專家們，圍繞騰算子開發(fā)語(yǔ)言Ascend 2.0技術(shù)升級(jí)、騰原生支持Pytorch訓(xùn)練大模型、思MindSpore 2.3版本技術(shù)升級(jí)及騰大模型推理解決方案做了詳細(xì)解讀：
●面向算子開發(fā)，進(jìn)一步開放CANN，開放了GE圖引擎、HCCL集合通信庫(kù)、更加完善的算子加速庫(kù)及全新升級(jí)的Ascend C 2.0，提供更多原生創(chuàng)新支持。全新升級(jí)的Ascend C 2.0，提供60多個(gè)高階API，開發(fā)者可直接調(diào)用自主開發(fā)高性能算子。在通信優(yōu)化上，通過(guò)通算融合和集合通信算法創(chuàng)新，實(shí)現(xiàn)通信效率提升15%；在調(diào)優(yōu)方面，推出多級(jí)指令流水線，快速識(shí)別性能優(yōu)化點(diǎn)，能夠幫助開發(fā)者將典型算子開發(fā)效率從兩個(gè)月提升到兩周。
●在AI框架能力上，思MindSpore提供多級(jí)編譯的能力，同時(shí)支持靜態(tài)圖和動(dòng)態(tài)圖模式，兼顧模型的開發(fā)效率與執(zhí)行性能，并通過(guò)MindStudio工具鏈，高效執(zhí)行大模型的調(diào)試、調(diào)優(yōu)，開發(fā)效率倍增。同時(shí)，進(jìn)一步完善了騰對(duì)PyTorch生態(tài)兼容，PyTorch API支持度已達(dá)95%。為讓開發(fā)者更好的在騰上使用業(yè)界主流的三方庫(kù)，騰通過(guò)社區(qū)代碼貢獻(xiàn)的形式，原生支持 huggingFace 和 DeepSpeed等社區(qū)的主流能力。
●面向推理應(yīng)用開發(fā)，基于騰推理引擎MindIE，可滿足多種推理應(yīng)用開發(fā)需求，提升推理開箱性能、降低應(yīng)用部署門檻，加速大模型創(chuàng)新落地。通過(guò)大語(yǔ)言模型推理模型套件、并行推理&通信計(jì)算融合、量化壓縮、基于Transformer加速庫(kù)的大模型推理、訓(xùn)練模型平滑遷移推理等在滿足低時(shí)延的條件下，將推理的吞吐提升6倍，大大降低了推理成本。
為讓廣大開發(fā)者更深入、全面地了解騰AI基礎(chǔ)軟硬件原生開發(fā)技術(shù)知識(shí)及應(yīng)用能力，當(dāng)天下午同期舉辦了騰AI原生開發(fā)訓(xùn)練營(yíng)大模型與應(yīng)用開發(fā)、騰AI原生開發(fā)訓(xùn)練營(yíng)算子開發(fā)、騰AI知識(shí)大比拼及騰AI開發(fā)應(yīng)用案例分享四個(gè)分論壇，以此賦能開發(fā)者技術(shù)成長(zhǎng)。在展區(qū)現(xiàn)場(chǎng)，開發(fā)者通過(guò)觀摩前沿科技展示及實(shí)操互動(dòng)體驗(yàn)，沉浸式體驗(yàn)“學(xué)-訓(xùn)-練-賽”全周期體系。
騰AI開發(fā)者創(chuàng)享日廣東站的成功舉辦，為開發(fā)者展現(xiàn)了前沿人工智能行業(yè)應(yīng)用案例、騰AI原生開發(fā)技術(shù)以及豐富的學(xué)習(xí)成長(zhǎng)資源，相信通過(guò)這次活動(dòng)也將進(jìn)一步促進(jìn)廣東本地的AI產(chǎn)業(yè)的持續(xù)蓬勃發(fā)展。人工智能產(chǎn)業(yè)正處于高速發(fā)展階段，需要全產(chǎn)業(yè)鏈的協(xié)作與共同努力，未來(lái)騰AI 將持續(xù)攜手伙伴，加速推動(dòng)人工智能走深向?qū)崳?/p>
