展會(huì)信息港展會(huì)大全

AIGC會(huì)成為亞馬遜云科技的“新魔法”嗎?
來(lái)源:互聯(lián)網(wǎng)   發(fā)布日期:2024-06-19 07:09:29   瀏覽:8598次  

導(dǎo)讀:IT時(shí)報(bào)記者 郝俊慧 任何非常先進(jìn)的技術(shù),初看都與魔法無(wú)異。寫(xiě)出《2001太空漫游》的英國(guó)著名科幻作家亞瑟克拉克的著名三定律中,第三定律幾乎是半個(gè)世紀(jì)科技發(fā)展的最佳注腳。 科技和文化,是人類與世界對(duì)話的語(yǔ)言,科技重塑了每一個(gè)時(shí)代,而文化則將變化鐫刻...

IT時(shí)報(bào)記者 郝俊慧

“任何非常先進(jìn)的技術(shù),初看都與魔法無(wú)異。”寫(xiě)出《2001太空漫游》的英國(guó)著名科幻作家亞瑟克拉克的著名三定律中,第三定律幾乎是半個(gè)世紀(jì)科技發(fā)展的最佳注腳。

科技和文化,是人類與世界對(duì)話的語(yǔ)言,科技重塑了每一個(gè)時(shí)代,而文化則將變化鐫刻在歷史中。

從這個(gè)意義上看,“三十而立”的亞馬遜,稱得上是一個(gè)時(shí)代的魔法師,將“魔法”從“小說(shuō)”變?yōu)?ldquo;現(xiàn)實(shí)”:通過(guò)電子商務(wù),數(shù)億消費(fèi)者可以跨越山海買到全球“好物”;通過(guò)上云,任何規(guī)模的公司可以從世界任何地方啟動(dòng)和擴(kuò)展自己的業(yè)務(wù)……亞馬遜開(kāi)創(chuàng)的兩大模式電子商務(wù)和云計(jì)算服務(wù),深刻改變了世界運(yùn)行的方式。

如今,新的生成式AI時(shí)代來(lái)臨,亞馬遜還是領(lǐng)先者嗎?

國(guó)外研究機(jī)構(gòu)Synergy Research Group公布的最新研究報(bào)告顯示,一季度全球云服務(wù)市場(chǎng)的前三大供應(yīng)商分別為亞馬遜云科技AWS、微軟Azure和谷歌云,市場(chǎng)份額分別為 31%、25% 和 11%。挾人工智能之風(fēng),微軟和谷歌在不斷靠近。

亞馬遜似乎并不著急。2023年告股東書(shū)中,亞馬遜CEO安迪賈西強(qiáng)調(diào),生成式AI正逐漸演變?yōu)閬嗰R遜下一個(gè)關(guān)鍵支柱業(yè)務(wù),盡管自ChatGPT于2022年推出之后,大家關(guān)注重點(diǎn)都集中在生成式AI應(yīng)用上,但亞馬遜認(rèn)為,生成式AI技術(shù)棧分為三層,而亞馬遜對(duì)每一層都進(jìn)行了深度探索。

2023年12月舉行的re:Invent上,AWS全面披露了亞馬遜生成式AI技術(shù)堆棧:底層基礎(chǔ)架構(gòu)層+中間基礎(chǔ)模型構(gòu)建工具層+上層基礎(chǔ)模型AI應(yīng)用層,版圖逐漸完整,而在今年舉行的亞馬遜云科技中國(guó)峰會(huì)上,亞馬遜云科技大中華區(qū)產(chǎn)品總經(jīng)理陳曉建詳細(xì)拆解了亞馬遜云科技的AIGC三層技術(shù)棧。

AIGC會(huì)成為亞馬遜云科技的“新魔法”嗎?

底層:內(nèi)外兼顧 雙管齊下

毫無(wú)疑問(wèn),AIGC將對(duì)云服務(wù)提供商及底層基礎(chǔ)設(shè)施產(chǎn)生深遠(yuǎn)影響。

僅僅有GPU并不是大模型能夠順利訓(xùn)練的唯一因素,分布式的調(diào)度能力、相應(yīng)的存儲(chǔ)和網(wǎng)絡(luò)性能缺一不可,傳統(tǒng)的數(shù)據(jù)中心正在轉(zhuǎn)變?yōu)橛ミ_(dá)CEO黃仁勛所言的“AI工廠”。對(duì)于云計(jì)算服務(wù)商而言,緊跟英偉達(dá)最新GPU路線和自研芯片是兩條必須同時(shí)邁步向前的路徑。

在和英偉達(dá)合作方面,亞馬遜云科技一向走得很遠(yuǎn)。去年年底,AWS是在云端配備英偉達(dá)GH200 Grace Hopper超級(jí)芯片的首家云大廠,雙方聯(lián)手推出首款結(jié)合Grace Hopper超級(jí)芯片與亞馬遜UltraCluster擴(kuò)展功能的云AI超級(jí)計(jì)算機(jī)Project Ceiba,而今年隨著英偉達(dá)推出“新核彈”B200,Project Ceiba也再次升級(jí)。搭載了超過(guò)兩萬(wàn)個(gè)英偉達(dá)最新的Grace架構(gòu)Blackwell 200 超級(jí)芯片和第四代 EFA 網(wǎng)絡(luò),每個(gè)超級(jí)芯片可提供高達(dá) 800 Gbps 的網(wǎng)絡(luò)帶寬,其AI算力能達(dá)到驚人的414 EFlops(每秒10萬(wàn)億次浮點(diǎn)計(jì)算)。

此前黃仁勛在臺(tái)北電腦展前演講曾透露,訓(xùn)練一次GPT-4,使用Hopper,可能需要三個(gè)月;換成Blackwell,10000顆芯片訓(xùn)練同樣大小的模型,只需要3吉瓦時(shí),耗時(shí)10天。以此類推,Project Ceiba訓(xùn)練GPT-4大小的模型,可能只要五天。

除此之外,Amazon UltraCluster 還提供超大規(guī)模,超高帶寬以及超高穩(wěn)定的高性能計(jì)算集群。而FSx for Lustre和S3 提供了高性能的存儲(chǔ)的穩(wěn)定方案。這些方案與亞馬遜云科技上廣泛的編排選項(xiàng)結(jié)合,允許客戶以最習(xí)慣的開(kāi)源框架進(jìn)行代碼開(kāi)發(fā)及部署。

在自研芯片方面,較之其他云商,AWS也已先行一步,自研服務(wù)器CPU芯片AWS Graviton4已經(jīng)到了第四代,為生成式AI和機(jī)器學(xué)習(xí)訓(xùn)練設(shè)計(jì)的云端AI芯片AWS Trainium 也發(fā)布了第二代。

定制芯片使得亞馬遜機(jī)器學(xué)習(xí)訓(xùn)練和推理成本的大幅下降,其中,基于Amazon Trainium的Trn1 EC2實(shí)例和基于Amazon Inferentia芯片的Inf2 EC2實(shí)例,與類似的基于英偉達(dá)GPU的Amazon EC2實(shí)例相比,可分別將訓(xùn)練成本降低高達(dá)50%(Trn1),推理成本降低高達(dá)40%(Inf2)。

同時(shí),除了降本之外,自研芯片還實(shí)現(xiàn)了效能的可持續(xù)性,Amazon Inferentia2可以將深度學(xué)習(xí)推理能效提升高達(dá)50%,Amazon Trainium可以將深度學(xué)習(xí)訓(xùn)練能效提升高達(dá)25%。

除了底層硬件設(shè)施,亞馬遜云科技在軟件底層服務(wù)方面也有獨(dú)門秘籍。已經(jīng)問(wèn)世7年的Amazon SageMaker托管機(jī)器學(xué)習(xí)服務(wù),可讓開(kāi)發(fā)人員輕松構(gòu)建、訓(xùn)練、微調(diào)和部署基礎(chǔ)模型。如自動(dòng)模型微調(diào)、分布式訓(xùn)練、靈活的模型部署選項(xiàng)、機(jī)器學(xué)習(xí)操作工具和面向負(fù)責(zé)任 AI 的內(nèi)置功能等等,助力客戶更快創(chuàng)新

據(jù)了解,國(guó)產(chǎn)大模型中,零一萬(wàn)物的Yi-1.5 6B/9B/34B和百川智能的Baichuan-2 7B基礎(chǔ)模型豆?jié){上線中國(guó)區(qū)域的SageMaker Jumpstart。

中間層:加速生成式 AI 應(yīng)用構(gòu)建

與由不同芯片、存儲(chǔ)、網(wǎng)絡(luò)架構(gòu)等等復(fù)雜內(nèi)容組成的底層技術(shù)棧不同,亞馬遜云科技的中間層只要記住一個(gè)詞即可Amazon Bedrock(基巖)。2023世界人工智能大會(huì)(WAIC)上, Amazon Bedrock成功入選大會(huì)“鎮(zhèn)館之寶”。

在游戲《我的世界》里,Bedrock是最基礎(chǔ)的方塊,不可被破壞,在亞馬遜云科技的AIGC三層技術(shù)棧中,它同樣是讓用戶放心的基礎(chǔ)服務(wù)。

Amazon Bedrock是亞馬遜云科技其是一項(xiàng)完全托管的服務(wù),通過(guò)單個(gè)API提供來(lái)自AI21 Labs、Anthropic、Cohere、Meta、Mistral AI、Stability AI 和Amazon等人工智能公司的高性能基礎(chǔ)模型(FM),以及通過(guò)安全性、隱私性和負(fù)責(zé)任的AI構(gòu)建生成式人工智能應(yīng)用程序所需的一系列廣泛功能。

比如企業(yè)可以將基于Llama、 Mistral和Flan-T5開(kāi)發(fā)的定制模型導(dǎo)入到 Bedrock之中,以完全托管的 API方式進(jìn)行訪問(wèn)。這一全新功能讓企業(yè)既可以使用SageMaker來(lái)持續(xù)預(yù)訓(xùn)練或者微調(diào)一個(gè)定制化模型,又能夠充分享受Bedrock的諸多模型管理功能,而無(wú)需管理底層設(shè)施。

借助全新的Amazon Bedrock專有模型導(dǎo)入功能,用戶能夠?qū)⒈镜匚⒄{(diào)后的開(kāi)源模型(Llama,Mistral及Flan-T5框架)上架Bedrock,以托管API方式來(lái)調(diào)用,無(wú)需運(yùn)維。只需通過(guò)點(diǎn)擊操作,客戶就可以在Amazon Bedrock中訪問(wèn)其定制模型,無(wú)論這些模型是它通過(guò)Amazon SageMaker開(kāi)發(fā)的還是用其他的工具開(kāi)發(fā)的。只需模型通過(guò)自動(dòng)驗(yàn)證流程后,即可使用Amazon Bedrock的一系列功能來(lái)加速其生成式AI應(yīng)用開(kāi)發(fā)。

模型評(píng)估也是一個(gè)非常實(shí)用的功能。至少在目前,還沒(méi)有一個(gè)基礎(chǔ)模型適應(yīng)于所有生成式AI場(chǎng)景,客戶需要去選擇最適合他們的模型。Amazon Bedrock模型評(píng)估功能可以幫助客戶找到最適合的模型,簡(jiǎn)化評(píng)估、比較和選擇基礎(chǔ)模型的過(guò)程,讓評(píng)估模型的過(guò)程從幾個(gè)星期縮短到幾個(gè)小時(shí)。

通過(guò)Amazon Bedrock提供基礎(chǔ)大模型服務(wù)和以自研芯片確保算力能力,亞馬遜云科技試圖以低成本和加速的方式,解答更多人對(duì)于這場(chǎng)由AI創(chuàng)新帶來(lái)的困惑。

頂層:開(kāi)箱即用的生成式AI應(yīng)用

AIGC時(shí)代,每個(gè)企業(yè)都不想錯(cuò)過(guò)紅利,但每個(gè)企業(yè)也都在問(wèn):AIGC究竟能給自己帶來(lái)什么?關(guān)鍵難題在于,讓生成式人工智能應(yīng)用和助手真正發(fā)揮作用,它們必須了解組織的數(shù)據(jù)、客戶、運(yùn)營(yíng)和業(yè)務(wù),但如今的許多助手都無(wú)法輕松個(gè)性化,而且它們的設(shè)計(jì)也無(wú)法滿足公司所需的數(shù)據(jù)隱私和安全要求。

作為亞馬遜云科技的頂層應(yīng)用,Amazon Q可以簡(jiǎn)單理解為一個(gè)新型生成式AI助手,一個(gè)亞馬遜云科技架構(gòu)框架、最佳實(shí)踐、文檔和解決方案實(shí)施的專家,它能夠幫助企業(yè)用戶快速學(xué)會(huì)應(yīng)用AIGC的能力,比如學(xué)習(xí)不熟悉的技術(shù)、構(gòu)建解決方案、發(fā)現(xiàn)問(wèn)題、升級(jí)應(yīng)用程序等,而且可以更快上手,極大程度上消除了技術(shù)門檻。

Amazon Q Developer可以被稱為是企業(yè)的“AI程序員”,它可以協(xié)助開(kāi)發(fā)人員完成從編碼、測(cè)試、升級(jí)應(yīng)用到故障排查、安全掃描和修復(fù)、優(yōu)化云資源等繁瑣重復(fù)的工作,讓開(kāi)發(fā)者把更多時(shí)間專注于創(chuàng)新體驗(yàn)的開(kāi)發(fā),加快應(yīng)用部署速度。英國(guó)電信集團(tuán) (BT Group) 最近報(bào)告稱,他們接受了 37% 的 Q 代碼建議,澳大利亞國(guó)民銀行 (National Australia Bank) 報(bào)告稱接受率為 50%。

Amazon Q Developer最大的價(jià)值在于,讓沒(méi)有編碼基礎(chǔ)的業(yè)務(wù)經(jīng)理也可以擁有完全匹配自己想法的軟件功能。比如,你可以要求 Amazon Q Developer 在自己的電子商務(wù)應(yīng)用程序中添加新的結(jié)帳功能,它將分析您現(xiàn)有的代碼庫(kù),制定跨多個(gè)文件的實(shí)施計(jì)劃,獲得批準(zhǔn)后,便可以在幾分鐘內(nèi)執(zhí)行所有必需的代碼更改和測(cè)試。

Amazon Q Business 的愿景,則是讓每個(gè)企業(yè)都能利用生成式人工智能的力量,從所有數(shù)據(jù)(非結(jié)構(gòu)化和結(jié)構(gòu)化)中獲取洞察,采取行動(dòng)并構(gòu)建應(yīng)用程序。

目前,幾乎每家公司都擁有大量難以訪問(wèn)和解析的寶貴數(shù)據(jù),擁有“數(shù)據(jù)礦山”卻不會(huì)使用是大多數(shù)公司的窘境,借助 Amazon Q Business,員工可以通過(guò)連接到企業(yè)數(shù)據(jù)存儲(chǔ)庫(kù)以邏輯方式匯總數(shù)據(jù)、分析趨勢(shì)并參與有關(guān)數(shù)據(jù)的對(duì)話,獲得有關(guān)業(yè)務(wù)數(shù)據(jù)(例如公司政策、產(chǎn)品信息、業(yè)務(wù)結(jié)果、代碼庫(kù)、人員和許多其他主題)的問(wèn)題答案。

目前Amazon Q Developer、Amazon Q Business 和 Amazon Q in QuickSight均已正式可用。

“今天所有人都有幸處在下一個(gè)技術(shù)變革的偉大時(shí)代,今天是成為構(gòu)建者的絕佳時(shí)機(jī),每個(gè)創(chuàng)新,都將對(duì)世界產(chǎn)生深遠(yuǎn)的影響。我們相信,亞馬遜云科技在這個(gè)時(shí)代創(chuàng)造的技術(shù),將使客戶能夠改變世界。”陳曉建表示。

贊助本站

相關(guān)內(nèi)容
AiLab云推薦
推薦內(nèi)容
展開(kāi)

熱門欄目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能實(shí)驗(yàn)室 版權(quán)所有    關(guān)于我們 | 聯(lián)系我們 | 廣告服務(wù) | 公司動(dòng)態(tài) | 免責(zé)聲明 | 隱私條款 | 工作機(jī)會(huì) | 展會(huì)港