展會信息港展會大全

兼容異構(gòu)大模型、國產(chǎn)算力,螞蟻數(shù)科SOFAStack發(fā)布全棧AI服務(wù)
來源:互聯(lián)網(wǎng)   發(fā)布日期:2024-07-02   瀏覽:432次  

導讀:6月28日,伴隨大模型落地從通用技術(shù)進步逐步邁向行業(yè)可用,螞蟻數(shù)科旗下多云PaaS平臺SOFAStack正式發(fā)布大模型服務(wù)平臺AI Max。該平臺兼容適配主流開源大模型、國產(chǎn)算力,向企業(yè)提供進行模型訓練、部署、評估、優(yōu)化等一站式模型工作臺,并實現(xiàn)可視化 ......

6月28日,伴隨大模型落地從通用技術(shù)進步逐步邁向行業(yè)可用,螞蟻數(shù)科旗下多云PaaS平臺SOFAStack正式發(fā)布大模型服務(wù)平臺AI Max。該平臺兼容適配主流開源大模型、國產(chǎn)算力,向企業(yè)提供進行模型訓練、部署、評估、優(yōu)化等一站式模型工作臺,并實現(xiàn)可視化研發(fā)、管理多種具備行業(yè)知識庫的Agent(智能體)應(yīng)用,助力企業(yè)跑完企業(yè)AI應(yīng)用業(yè)務(wù)落地的最后一公里。

兼容異構(gòu)大模型、國產(chǎn)算力,螞蟻數(shù)科SOFAStack發(fā)布全棧AI服務(wù) 中國信息通信研究院云大所副所長栗蔚

“大模型的高速發(fā)展使得AI不得不面臨算力管理復雜、訓練推理成本高、任務(wù)調(diào)度難等多方面發(fā)展瓶頸,云原生憑借其高可用、彈性、可擴展等優(yōu)勢成為突破AI困境的關(guān)鍵!敝袊畔⑼ㄐ叛芯吭涸拼笏彼L栗蔚指出,“云原生PaaS平臺的大模型產(chǎn)品工具鏈不斷完善,將加速大模型技術(shù)在行業(yè)應(yīng)用中落地!

“對企業(yè)來說,大模型訓練耗時耗力耗資源,AI Max不僅支持主流開源大模型的一鍵微調(diào)訓練,還提供三步即完成的零代碼模型開發(fā)環(huán)境,把原先耗費至少3天的訓練縮短至1小時。螞蟻自研的預(yù)訓練模型與先進的多模態(tài)算法,僅需小量數(shù)據(jù)即可進行訓練,進一步提升數(shù)據(jù)的利用率和模型訓練的效率!蔽浵仈(shù)科云原生產(chǎn)品資深總監(jiān)馬振雄介紹。

據(jù)了解,基于SOFAStack多云兼容屬性,AI Max具備兩層核心特性:

兼容異構(gòu)大模型、國產(chǎn)算力,螞蟻數(shù)科SOFAStack發(fā)布全棧AI服務(wù) 螞蟻數(shù)科云原生產(chǎn)品資深總監(jiān)馬振雄

在資源層,支持多種國產(chǎn)GPU算力平臺納管部署,企業(yè)按需靈活使用資源,使得有限的GPU資源可以高效的被利用起來,同時大大降低服務(wù)器使用成本;

在應(yīng)用層,企業(yè)可以根據(jù)業(yè)務(wù)需求快速輸出定制化的AI模型,構(gòu)建服務(wù)業(yè)務(wù)需求的智能體,極大地簡化了技術(shù)實施過程。

當企業(yè)開始構(gòu)建大模型應(yīng)用,還需要結(jié)合具備行業(yè)特性的業(yè)務(wù)經(jīng)驗。針對金融行業(yè)場景,SOFAStack融合金融助理支小助的最佳實踐,包含其模型訓練、推理能力、智能體研發(fā)等方面,可以幫助機構(gòu)一鍵生成自身業(yè)務(wù)特色的智能體應(yīng)用。過去9年,SOFAStack助力130家金融機構(gòu)完成云原生架構(gòu)轉(zhuǎn)型。

兼容異構(gòu)大模型、國產(chǎn)算力,螞蟻數(shù)科SOFAStack發(fā)布全棧AI服務(wù) 螞蟻數(shù)科云原生事業(yè)部總經(jīng)理王磊

“在大模型時代,SOFAStack可以承擔PaaS在多云時代扮演的角色通過構(gòu)建AI原生軟件服務(wù),成為連接算力與應(yīng)用的中堅力量!蔽浵仈(shù)科云原生事業(yè)部總經(jīng)理王磊表示。

當天,SOFAStack與行云創(chuàng)新、AutoMQ、聯(lián)創(chuàng)集團、諧云科技等生態(tài)伙伴簽約,將共建多云、多模型生態(tài),加速大模型在各行業(yè)落地。

自今年3月份獨立化運營以來,螞蟻數(shù)科悄然推進AI toB戰(zhàn)略,SOFAStack、蟻盾等多個代表性產(chǎn)品均發(fā)布了大模型相關(guān)服務(wù),積極借助AI技術(shù)助力產(chǎn)業(yè)智能化升級。

贊助本站

相關(guān)內(nèi)容
AiLab云推薦
展開

熱門欄目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能實驗室 版權(quán)所有    關(guān)于我們 | 聯(lián)系我們 | 廣告服務(wù) | 公司動態(tài) | 免責聲明 | 隱私條款 | 工作機會 | 展會港