展會信息港展會大全

萬卡集群的AI數(shù)據(jù)中心,到底是如何運作的?
來源:互聯(lián)網(wǎng)   發(fā)布日期:2024-11-04 12:18:30   瀏覽:67次  

導(dǎo)讀:劃重點01萬卡集群的AI數(shù)據(jù)中心在美國田納西州孟菲斯市啟動,每天消耗100萬加侖水和150兆瓦電力。02由于AI訓(xùn)練集群的需求,數(shù)據(jù)中心面臨冷卻系統(tǒng)、供電系統(tǒng)和占地面積等方面的挑戰(zhàn)。03液冷系統(tǒng)成為數(shù)據(jù)中心耗水問題的主要解決方案,但高昂的建設(shè)和維護成本引發(fā)環(huán)保人士擔(dān)憂。04為此,數(shù)據(jù)中心行業(yè)轉(zhuǎn)向設(shè)備一體化、提升電能傳輸效率等創(chuàng)新解決方案,以應(yīng)對快速部署和建設(shè)周期需求 ......

劃重點

01萬卡集群的AI數(shù)據(jù)中心在美國田納西州孟菲斯市啟動,每天消耗100萬加侖水和150兆瓦電力。

02由于AI訓(xùn)練集群的需求,數(shù)據(jù)中心面臨冷卻系統(tǒng)、供電系統(tǒng)和占地面積等方面的挑戰(zhàn)。

03液冷系統(tǒng)成為數(shù)據(jù)中心耗水問題的主要解決方案,但高昂的建設(shè)和維護成本引發(fā)環(huán)保人士擔(dān)憂。

04為此,數(shù)據(jù)中心行業(yè)轉(zhuǎn)向設(shè)備一體化、提升電能傳輸效率等創(chuàng)新解決方案,以應(yīng)對快速部署和建設(shè)周期需求。

05同時,預(yù)制化基礎(chǔ)設(shè)施在滿足環(huán)保要求和縮短建設(shè)周期方面展現(xiàn)出巨大潛力。

以上內(nèi)容由大模型生成,僅供參考

2024年7月22日凌晨,xAI創(chuàng)始人Elon Musk在推特上正式宣布,在凌晨4:20分正式啟動了世界上最強的AI訓(xùn)練集群。

這個訓(xùn)練集群建設(shè)在美國田納西州孟菲斯市,集合了10 萬個液冷H100芯片。

萬卡集群的AI數(shù)據(jù)中心,到底是如何運作的?

然而,這在當(dāng)?shù)貐s引發(fā)了居民們的抗議和不滿。

這樣巨大的AI訓(xùn)練集群每天會消耗100萬加侖的水和150兆瓦的電力,因此也是引發(fā)了當(dāng)?shù)丨h(huán)保人士的擔(dān)心和抗議。

隨著萬卡集群,甚至十萬卡集群成為科技巨頭們訓(xùn)練AI大模型的標(biāo)配,這樣的巨型數(shù)據(jù)中心到底意味著什么?

萬卡集群的AI數(shù)據(jù)中心,到底是如何運作的?

消耗電力好理解,那為什么會消耗如此多的水呢?冷卻系統(tǒng)與供電系統(tǒng)等關(guān)鍵基礎(chǔ)設(shè)施是如何運作的?目前數(shù)據(jù)中心的主計算芯片開始從CPU轉(zhuǎn)向GPU,這會帶來如何的變革?

可能大家對CPU、GPU這類計算芯片了解較多,卻很少會關(guān)注配套的基礎(chǔ)設(shè)施。

但事實上,它們就像冰山藏在水下的部分一樣,不僅是整個數(shù)據(jù)中心的支柱,還是至關(guān)重要的安全樞紐。

萬卡集群的AI數(shù)據(jù)中心,到底是如何運作的?

我們來揭秘一下萬卡集群的數(shù)據(jù)中心到底是如何運作的,也非常榮幸邀請了專注于數(shù)據(jù)中心基礎(chǔ)設(shè)施的公司維諦技術(shù)的多位專家一起來探討,AI爆發(fā)給數(shù)據(jù)中心的基礎(chǔ)設(shè)施帶來的挑戰(zhàn)與機遇。

01 AI時代數(shù)據(jù)中心面臨的挑戰(zhàn)首先,我們先簡單了解下,數(shù)據(jù)中心的組成結(jié)構(gòu)。

從物理結(jié)構(gòu)上來看,數(shù)據(jù)中心會劃分成三個系統(tǒng),主機房、供電系統(tǒng)和冷卻系統(tǒng)。

萬卡集群的AI數(shù)據(jù)中心,到底是如何運作的?

如果咱們把數(shù)據(jù)中心類比成一支軍隊,你看這主機房陳列的一排排機柜,像不像前線征戰(zhàn)的士兵,它們承擔(dān)著整個數(shù)據(jù)中心的核心功能運算。

而冷卻與供電系統(tǒng)則是軍隊后方的保障機構(gòu)。冷卻系統(tǒng)負責(zé)保障士兵的健康與安全,供電系統(tǒng)負責(zé)糧草的運送與分配。

此外還有綜合管理系統(tǒng)來維護兵器等等,它們就像數(shù)據(jù)中心的“兵部尚書”,雖然不在一線征戰(zhàn),卻起到了關(guān)鍵作用。

如今一些數(shù)據(jù)中心開始由通用計算轉(zhuǎn)向?qū)S糜嬎,其中以AI為主的數(shù)據(jù)中心被稱為“智算數(shù)據(jù)中心”,主力芯片從CPU變成了GPU,這也將對所有基礎(chǔ)設(shè)施帶來巨大的挑戰(zhàn)。

萬卡集群的AI數(shù)據(jù)中心,到底是如何運作的?

顧華

維諦技術(shù)市場營銷與產(chǎn)品應(yīng)用高級總監(jiān):

因為傳統(tǒng)的CPU其實過去十多年的時間一直在采用的X86的結(jié)構(gòu),它CPU的功耗,包括服務(wù)器的功耗都相對比較標(biāo)準(zhǔn)和恒定,所以我們在過去的近十多年的時間,看到數(shù)據(jù)中心的平均的機柜的功率密度,大概一直在3~5千瓦左右。

但是現(xiàn)在隨著GPU的采用,AI模型的推理和訓(xùn)練,需要集中大量的GPU來進行并行的浮點運算,需要通過集群的方式,通過軟件互聯(lián)通信在非常小的空間里面集中大量的GPU。

萬卡集群的AI數(shù)據(jù)中心,到底是如何運作的?

這使得GPU的服務(wù)器,包括單機柜的功率密度會迅速的提高。所以我們也看到機柜的功率密度從過去的5千瓦,現(xiàn)在迅速的提升到了10千瓦、 20千瓦、 40千瓦,甚至80千瓦、100千瓦以上。

智算機柜功率密度的提升對基礎(chǔ)設(shè)施來說,我覺得主要有四大方面的挑戰(zhàn)。

首先是給散熱能力帶來的挑戰(zhàn),第二個方面是給高效的能源供應(yīng)帶來的挑戰(zhàn),第三個是占地面積,第四是快速的部署。

萬卡集群的AI數(shù)據(jù)中心,到底是如何運作的?

所以,GPU芯片的迅速更新迭代給數(shù)據(jù)中心配套設(shè)施帶來了這四大挑戰(zhàn)。如何應(yīng)對這四個問題,我們先來看看冷卻系統(tǒng),為什么它會如此耗水?

02 冷卻系統(tǒng)Chapter 2.1 冷卻系統(tǒng)的重要性

電子器件運行時會產(chǎn)生熱量,而芯片對熱量尤其敏感,如果過熱,輕則觸發(fā)芯片的自我保護機制,降低運行頻率,重則導(dǎo)致服務(wù)器故障,業(yè)務(wù)中斷,甚至燒毀硬件。

隨著數(shù)據(jù)中心的功率密度越來越高,這時如果冷卻系統(tǒng)發(fā)生故障,留給維護人員的反應(yīng)時間,可能只有一兩分鐘。

萬卡集群的AI數(shù)據(jù)中心,到底是如何運作的?

王超

維諦技術(shù)熱管理解決方案部高級經(jīng)理:

如果單機柜到了10千瓦,按照我們過去的仿真經(jīng)驗,可能很快,一兩分鐘,(環(huán)境)就能到 30多度甚至40度,那就宕機了。

因此,芯片算力的升級也直接帶來了對數(shù)據(jù)中心冷卻系統(tǒng)的升級需求。我們在《搶電、圈地、對賭,深聊科技巨頭的千億美元AI能源大戰(zhàn)》那期文章里也講過,隨著功率密度的提升,廠商們開始轉(zhuǎn)向液冷方案。

萬卡集群的AI數(shù)據(jù)中心,到底是如何運作的?

而恰恰是這個液冷,導(dǎo)致了不少環(huán)保人士抵制。

除了開頭說的xAI訓(xùn)練集群外,2023年烏拉圭民眾也聯(lián)合抗議谷歌建設(shè)數(shù)據(jù)中心,還有新墨西哥州的農(nóng)民抗議Meta數(shù)據(jù)中心遷入。

大家抵制的原因之一就是,這些數(shù)據(jù)中心耗水太多,甚至加劇了當(dāng)?shù)氐母珊登闆r。

萬卡集群的AI數(shù)據(jù)中心,到底是如何運作的?

那為什么液冷會消耗如此多的水呢?

Chapter 2.2 液冷為何如此耗水

在回答這個問題前,我們需要簡單科普下冷卻系統(tǒng)的結(jié)構(gòu)。目前冷卻系統(tǒng)主要分為兩個大類,風(fēng)冷與液冷。

我們先來聊聊風(fēng)冷。如果你進入過數(shù)據(jù)中心,那第一感覺應(yīng)該是:太吵了!這個噪音就來自于機柜中用于給芯片降溫的風(fēng)扇。

萬卡集群的AI數(shù)據(jù)中心,到底是如何運作的?

風(fēng)扇的作用是將芯片的熱量散發(fā)到空氣中,但如果熱量全部堆積在空氣中,也會降低散熱效果,所以還需要空調(diào)對空氣降溫。

空調(diào)也分為很多種,我們這里就不一一舉例了。

顯而易見的是,空氣的熱交換效率較低,在功率密度不斷提升下,必須采用效率更高的散熱介質(zhì),那就是液體。

液冷散熱的原理就是通過水的蒸發(fā)潛熱帶走芯片的熱量,液冷散熱也分為很多種,目前全球主流的兩類是冷板液冷和浸沒液冷。

萬卡集群的AI數(shù)據(jù)中心,到底是如何運作的?

王超

維諦技術(shù)熱管理解決方案部高級經(jīng)理:

當(dāng)然在國內(nèi)還有一種是噴淋液冷技術(shù)。噴淋也是一個比較創(chuàng)新的技術(shù),但這個技術(shù)目前還是受到了一定的限制,所以不是很多。

冷板液冷是讓冷板與芯片緊密貼合,讓芯片熱量傳導(dǎo)至冷板中的冷卻液,并將冷卻液中的熱量運輸至后端冷卻。

而浸沒液冷是將整個主板都浸沒在特定液體中,但對于目前主流的GPU設(shè)備來說,浸沒液冷卻不太適用。

王超

維諦技術(shù)熱管理解決方案部高級經(jīng)理:

因為所有GPU它都是還是按照冷板液冷這種規(guī)格來開發(fā)的,所以不太適配浸沒。

冷卻系統(tǒng)會分為一次側(cè)和二次側(cè),一次側(cè)是將整體熱量散走,并與二次側(cè)的冷卻分發(fā)單元(Cooling Distribution Units,簡稱CDU)來交換熱量。

萬卡集群的AI數(shù)據(jù)中心,到底是如何運作的?

通常提到的液冷散熱,都是指二次側(cè),由CDU將冷水分配到各個機柜中。而當(dāng)前的液冷散熱系統(tǒng)一次側(cè)大部分也是水冷方式,最終在室外通過水的顯熱交換和潛熱交換帶走全部熱量。

顯熱交換是水在加熱或冷卻過程中,會吸收或釋放的熱量,水的狀態(tài)不變。

而潛熱交換就是水在相變過程中,如蒸發(fā)、凝結(jié)、融化、凝固時,吸收或釋放的熱量,而溫度保持不變。

萬卡集群的AI數(shù)據(jù)中心,到底是如何運作的?

就像咱們天氣熱時,如果給房間放一盆水,水溫慢慢升高,這就是顯熱交換;同時水會慢慢蒸發(fā),這就是潛熱交換,兩種交換共同進行,使得水盆上方的空氣溫度降低。

前面我們說到環(huán)保人士抵制AI數(shù)據(jù)中心,就是因為萬卡集群的AI數(shù)據(jù)中心,浪費的水實在太多了。

王超

維諦技術(shù)熱管理解決方案部高級經(jīng)理:

這其實就回到那個規(guī)模效應(yīng)了,如果說咱們只是建一兩個數(shù)據(jù)中心,比如就是像20兆瓦,或者甚至即使到100兆瓦都沒事。但是如果進一步擴大,那個耗水量是非常巨大的,可能會對當(dāng)?shù)氐牡叵滤Y源有一定的影響,可以肯定一定會存在數(shù)據(jù)中心和人搶水的這個問題。

萬卡集群的AI數(shù)據(jù)中心,到底是如何運作的?

你可能想問,就算水蒸發(fā)了,那不是還會變成雨降下來嗎?為什么會被稱為“浪費”呢?我們分兩個方面來說。

首先,水蒸發(fā)后變成云,飄到哪兒降落就不好說了,數(shù)據(jù)中心就像個抽水機,把當(dāng)?shù)氐乃樽吆笏偷搅似渌胤,對于原本降雨量低的地區(qū),加劇了干旱情況。

其次,數(shù)據(jù)中心對水的質(zhì)量要求也不低,但高質(zhì)量的水蒸發(fā)后,如果降落在污染地或海面,這些水很難再利用了。

萬卡集群的AI數(shù)據(jù)中心,到底是如何運作的?

同時,使用高質(zhì)量的水,也意味著數(shù)據(jù)中心要和居民搶水,甚至可能造成民用水不夠的情況。

那為什么一定要用高質(zhì)量的水呢?

王超

維諦技術(shù)熱管理解決方案部高級經(jīng)理:

水如果蒸發(fā),它就會跟制冷設(shè)備的一些部件會有接觸,不管是水滴還是水霧,它到制冷設(shè)備上面,如果水質(zhì)不太好,比如酸堿度不太好,偏酸偏堿都可能會導(dǎo)致腐蝕。如果鈣鎂離子的含量比較多,就像咱們家里燒開水一樣,那可能水垢就會附著在表面上。

一旦水垢附著在換熱設(shè)備的表面,帶來的影響就是換熱設(shè)備的效率會下降。本來我是 200千瓦的散熱量,但是因為水溝問題,可能會導(dǎo)致它衰減到80%,甚至更低,那帶來的就是冷量可能不夠這一類的問題。

有報道稱,每個數(shù)據(jù)中心平均每天要消耗100萬到500萬加侖的水,比如開頭提到的xAI萬卡集群,每天消耗100萬加侖的水,可供3000多戶家庭使用一天。

而GPT-3在訓(xùn)練期間消耗了700萬噸水,后續(xù)的推理階段,每回答20個問題,就相當(dāng)于倒掉了一瓶500毫升的礦泉水。

萬卡集群的AI數(shù)據(jù)中心,到底是如何運作的?

NPJ的一份名為《數(shù)據(jù)中心用水調(diào)查》報告顯示,數(shù)據(jù)中心耗水來源58%是飲用水,這其中還存在耗水不透明度的問題,長此以往甚至?xí)斐蓺夂蝻L(fēng)險。

所以也難怪AI數(shù)據(jù)中心會遭到抵制了。

同時,也有企業(yè)做過海底數(shù)據(jù)中心,如此一來不就解決了耗水問題嗎?但很遺憾,這就涉及到冷卻系統(tǒng)面臨的另一大挑戰(zhàn),經(jīng)濟賬的問題了。

Chapter 2.3 冷卻系統(tǒng)的經(jīng)濟賬

海底數(shù)據(jù)中心就是把服務(wù)器放置在殼體內(nèi)并沉到海水里,因為海水的溫度較低,可以直接為殼體降溫,而且不需要額外補充機械能。

萬卡集群的AI數(shù)據(jù)中心,到底是如何運作的?

聽上去是個既節(jié)能又環(huán)保的方案,但維諦的專家告訴我們,這將對技術(shù)提出更高的要求。

王超

維諦技術(shù)熱管理解決方案部高級經(jīng)理:

因為沉到海水里邊,整個數(shù)據(jù)中心的殼體、包括一些光纜還有電纜之類的,它都要能下海,其實提出了更高的要求。

更高的技術(shù)要求,就意味著企業(yè)需要在研發(fā)上投入更多,但長期來看,這確實是一個創(chuàng)新的解決方案。

除了技術(shù)難題外,冷卻系統(tǒng)的用電也一直居高不下。有數(shù)據(jù)顯示,冷卻系統(tǒng)通常占數(shù)據(jù)中心平均電力消耗的40%,不少巨頭都在努力降低冷卻系統(tǒng)的能源消耗,但搞不好反而會弄巧成拙。

萬卡集群的AI數(shù)據(jù)中心,到底是如何運作的?

有論文研究稱,數(shù)據(jù)中心每將送風(fēng)溫度提高1°C,可以降低大約2-5%的制冷功率,因此數(shù)據(jù)中心開始呈現(xiàn)把冷卻系統(tǒng)溫度從75(約23.9℃)提高到85(約29.4℃)的趨勢,連谷歌也采取了這樣的做法。

萬卡集群的AI數(shù)據(jù)中心,到底是如何運作的?

但這個做法還挺危險的,這相當(dāng)于你設(shè)置的溫度,距離數(shù)據(jù)中心能承受最高溫度的緩沖區(qū)間縮窄了,反倒會導(dǎo)致系統(tǒng)性風(fēng)險。

比如,2021年,新加坡一家數(shù)據(jù)中心運營商為了節(jié)省冷卻成本,將溫度提高到危險的臨界水平,結(jié)果導(dǎo)致數(shù)據(jù)中心服務(wù)器大面積故障,這種情況持續(xù)了近一周,真是得不償失。

同時,這篇論文也發(fā)出了警告:數(shù)據(jù)中心受到熱攻擊的原因之一,是因為采用了激進的冷卻策略,也就是系統(tǒng)溫度設(shè)置的太高,減少了冗余度。

萬卡集群的AI數(shù)據(jù)中心,到底是如何運作的?

所以如何讓冷卻系統(tǒng)更節(jié)能,成為了AI時代的挑戰(zhàn)之一。

維諦技術(shù)的專家告訴我們,要降低冷卻系統(tǒng)能耗,主要分為三大方向。

王超

維諦技術(shù)熱管理解決方案部高級經(jīng)理:

現(xiàn)在從節(jié)能角度來講,其實是可以分為三大方向。一個是從風(fēng)側(cè)來做自然冷來做節(jié)能,然后另外的話就是水側(cè)自然冷,還有就是氟側(cè)自然冷。

萬卡集群的AI數(shù)據(jù)中心,到底是如何運作的?

所謂的“自然冷”(Free-Cooling),是指利用室外的低溫冷源,來給室內(nèi)降溫,達到降低能耗的一種技術(shù)方法。

想象一下冬天我們悶在房間里非常熱,如果打開窗戶讓室外的冷空氣進入,房間就涼快了,這就是自然冷。

而風(fēng)側(cè)自然冷,就是在窗戶邊放一些風(fēng)扇向房間吹風(fēng),加速室外冷空氣進入。

萬卡集群的AI數(shù)據(jù)中心,到底是如何運作的?

水側(cè)自然冷和氟側(cè)自然冷,則是將導(dǎo)體替換為了水和氟。

王超

維諦技術(shù)熱管理解決方案部高級經(jīng)理:

風(fēng)側(cè)自然冷它是受地理條件的限制比較大,因為它是會把新風(fēng)引到機房里來,對空氣質(zhì)量之類有一定的要求,其實就是即使做新風(fēng)也是會結(jié)合一些機械冷的。從我們來講,我們還是更專注于水側(cè)自然冷和氟側(cè)自然冷。

氟側(cè)自然冷就是我們常規(guī)的風(fēng)冷空調(diào)這個系統(tǒng),在溫度相對來說比較低,以及冬季的時候,來通過氟泵工作來利用室外自然冷源,那這會就不需要開壓縮機了,壓縮機的功耗就是整個系統(tǒng)里邊制冷功耗最大的部分,那如果可以在一部分時間里邊把壓縮機替換成氟泵,因為氟泵的功率是很低的,那當(dāng)然可以大大的節(jié)約能耗。

水側(cè)自然冷,做節(jié)能就是通過室外的一些蒸發(fā)之類的,把它的那個冷的能力間接的帶到室內(nèi)來。

萬卡集群的AI數(shù)據(jù)中心,到底是如何運作的?

風(fēng)側(cè)自然冷受到地理限制較大,水側(cè)自然冷蒸發(fā)的水太多,所以目前既省電又省水的方案,就是氟側(cè)自然冷。

王超

維諦技術(shù)熱管理解決方案部高級經(jīng)理:

氟側(cè)自然冷它就是一個無水的智能解決方案,天然的它就不需要水,它是靠氟泵、靠冷媒來實現(xiàn)自然冷的,不需要靠水的蒸發(fā)。

但這種方式就對技術(shù)提出了很大挑戰(zhàn),需要長期的積累經(jīng)驗,才能控制好整套系統(tǒng)。

王超

維諦技術(shù)熱管理解決方案部高級經(jīng)理:

怎么才能更好的控制,讓氟泵的工作時長更長一點點,讓氟泵和壓縮機的切換能夠更加的穩(wěn)定、更少的波動、然后讓它更節(jié)能。它的難度是比做水側(cè)自然冷是要更難的,所以最大的難點就還是在于技術(shù)儲備。

除了節(jié)能環(huán)保外,如今數(shù)據(jù)中心還面臨著芯片升級的挑戰(zhàn)。

我們之前的文章中有提到,英偉達新出的Blackwell芯片,由于功耗上升,老舊的數(shù)據(jù)中心難以直接部署,甚至一些公司由于業(yè)務(wù)轉(zhuǎn)型,需要將以CPU為主的計算設(shè)備,升級到以GPU為主,如何改造成了當(dāng)下的難題。

萬卡集群的AI數(shù)據(jù)中心,到底是如何運作的?

Chapter 2.4 數(shù)據(jù)中心如何升級?

王超

維諦技術(shù)熱管理解決方案部高級經(jīng)理:

在AI來之前,數(shù)據(jù)中心的分類其實都是以風(fēng)冷為主的,那它的單機柜功率密度才5~10千瓦,而且其實10千瓦的都不是很多了,主要是5~6千瓦這樣的為主。那現(xiàn)在我要升級智算,首先要把風(fēng)冷設(shè)備的散熱量加夠,然后再去額外的再去補充液冷部分。

既然冷卻系統(tǒng)可以升級,為什么還有些企業(yè)會選擇花很多資金重建數(shù)據(jù)中心呢?這就不得不說到,舊機房升級的瓶頸了。

王超

維諦技術(shù)熱管理解決方案部高級經(jīng)理:

對于制冷它主要就是空間的問題,一般情況下,從我們當(dāng)前的設(shè)計經(jīng)驗來看,制冷設(shè)備的空間往往可能是夠的。因為原先的單機柜6千瓦,現(xiàn)在單機柜40千瓦,那單機柜的功率密度提升了6倍還多,原先6個機柜解決的問題,現(xiàn)在只需要一個機柜。

行業(yè)里邊有一個說法,就是數(shù)據(jù)中心的盡頭其實是電力,所以咱們在擴容的時候,往往首先要考慮的還是電力的問題。

萬卡集群的AI數(shù)據(jù)中心,到底是如何運作的?

為什么電力是制約數(shù)據(jù)中心升級的因素?AI爆發(fā)又給供電系統(tǒng)帶來了哪些挑戰(zhàn)呢?接下來我們聊聊供電系統(tǒng)。

03 供電系統(tǒng)Chapter 3.1 AI給供電系統(tǒng)帶來的挑戰(zhàn)

我們在AI電力爭奪戰(zhàn)那期文章里講過,AI數(shù)據(jù)中心帶來了大量電能消耗,未來將給電網(wǎng)帶來供應(yīng)缺口,其實不止是外部的電網(wǎng),AI數(shù)據(jù)中心內(nèi)部的供電也同樣面臨巨大壓力,其中很大的因素就在于占地面積。

萬卡集群的AI數(shù)據(jù)中心,到底是如何運作的?

趙呈濤

維諦技術(shù)ACP解決方案部高級經(jīng)理:

因為整個的功率密度提升,供配電和IT機房的占比出現(xiàn)了很大的偏差,占地面積成為了一個很大的挑戰(zhàn)。

正是因為這些難點,成為了老舊數(shù)據(jù)中心升級困難的原因,其中最為棘手的就是占地問題。

在解析這個問題前,為了便于大家理解,我們先簡單介紹下供電系統(tǒng)的結(jié)構(gòu)。

Chapter 3.2 供電系統(tǒng)結(jié)構(gòu)及占地問題

供電系統(tǒng)的結(jié)構(gòu)主要分為四個層級:市電或發(fā)電機將電能輸送到變配電系統(tǒng),變配電系統(tǒng)會給冷卻系統(tǒng)、不間斷電源(Uninterruptible Power Supply,即UPS)供電,UPS再將電能送到主機房的電源分配單元(Power Distribution Unit,即PDU),由PDU給每個機柜分配電能。

萬卡集群的AI數(shù)據(jù)中心,到底是如何運作的?

其中發(fā)電機是為了在市電發(fā)生故障時有應(yīng)急的電力輸入,但發(fā)電機啟動需要一定時間,而UPS包含了大容量電池,能保證服務(wù)器繼續(xù)運行5到15分鐘,為發(fā)電機啟動爭取時間。

當(dāng)然,供電系統(tǒng)還會根據(jù)市電線路數(shù)和冗余結(jié)構(gòu)的不同,分為DR架構(gòu)、RR架構(gòu)、2N架構(gòu),這里我們就不多贅述了。

萬卡集群的AI數(shù)據(jù)中心,到底是如何運作的?

那回到占地面積的問題,由于服務(wù)器功耗增加后,需要額外的供電設(shè)備,但是,供電設(shè)備實在太占地了。

趙呈濤

維諦技術(shù)ACP解決方案部高級經(jīng)理:

從傳統(tǒng)的數(shù)據(jù)中心建設(shè)來看,它會有傳統(tǒng)的中壓室、低壓室、電力室、電池室等等,這些傳統(tǒng)的產(chǎn)品都會通過線來做連接,這些物理連接由于它是分散于各個廠家的產(chǎn)品,它的標(biāo)準(zhǔn)的制式、標(biāo)準(zhǔn)的體積都不是很融合,另外一個它們的整個的部署的物理距離,中間的一般都是都會有一些間隙。

萬卡集群的AI數(shù)據(jù)中心,到底是如何運作的?

所以有限的空間成了制約老舊數(shù)據(jù)中心升級的痛點,想發(fā)展AI,重建數(shù)據(jù)中心成了更好的選擇。

但數(shù)據(jù)中心的設(shè)計壽命有20到30年,GPU換代一般是3~5年,總不能隔幾年就重建一次吧,為此行業(yè)發(fā)展出了新的方向,那就是設(shè)備一體化。

Chapter 3.3 設(shè)備一體化與效率提升

趙呈濤

維諦技術(shù)ACP解決方案部高級經(jīng)理:

我們針對占地面積的問題,推出了交流直流供配電一體化的電力模組,就像我們傳統(tǒng)的組裝式的電腦,現(xiàn)在變成了一體機是一樣的,我們通過將UPS、供配電、變壓器、補償、饋電柜多個產(chǎn)品融合為一體,提供了一個工程產(chǎn)品化的一個產(chǎn)品,這樣可以將我們占地面積減少至少30%。

當(dāng)然我們還有一個新型的解決方案,我們的供配電電力模組,采用背靠背的這種方式,通過上送風(fēng),這樣的話我們可以把傳統(tǒng)的電力層面積再縮小50%。

縮小其他設(shè)備的占地面積不光有利于老舊數(shù)據(jù)中心的升級,新的數(shù)據(jù)中心也能帶來更高的經(jīng)濟效益,因為騰出來的空間就可以多擺點計算用的機柜、多一些算力,縮短模型的訓(xùn)練與推理時間。

除了縮小設(shè)備占地外,供電系統(tǒng)的另一個趨勢是提升電能傳輸效率。

眾所周知,每個設(shè)備都有電阻,電能在一層層設(shè)備的轉(zhuǎn)換中,總會伴隨著能量損失,如此一來為了滿足服務(wù)器機柜的電能需求,前端的供配電設(shè)備需要留有更多冗余、占據(jù)更大面積。

萬卡集群的AI數(shù)據(jù)中心,到底是如何運作的?

而提升傳輸效率后,不僅能減少設(shè)備的數(shù)量,還能降低數(shù)據(jù)中心的能耗,達到節(jié)能減排的效果。

那該從哪些方面來提升效率呢?

趙呈濤

維諦技術(shù)ACP解決方案部高級經(jīng)理:

第一,UPS我們采用了碳化硅的產(chǎn)品線,將整個的效率提升了很多。第二,我們采用了SCB的多晶合金的變壓器,第三通過以傳統(tǒng)的線纜方式改用銅牌的方式來連接,進一步降低了線路的損耗來提升它整體的效率。

為了提升末端配電的負載,我們推出了1000 安培的小母線,這樣服務(wù)器未來可以擴容 100 千瓦、 150 千瓦。

最后,我們來聊聊顧華提到的第四個挑戰(zhàn),快速部署。有意思的是,行業(yè)為此竟然呈現(xiàn)出了“預(yù)制化”的趨勢,這能行得通嗎?

萬卡集群的AI數(shù)據(jù)中心,到底是如何運作的?

04 建設(shè)周期與快速部署如今全球的AI戰(zhàn)正打的火熱,急劇增長的算力需求促使著各大公司新建AI數(shù)據(jù)中心,這就對整行業(yè)提出了建設(shè)速度的要求,畢竟AI數(shù)據(jù)中心早一天上線,就能帶來更多經(jīng)濟效益。

大家也在紛紛嘗試創(chuàng)新的解決方案,譬如“木質(zhì)數(shù)據(jù)中心”,用木材作為關(guān)鍵結(jié)構(gòu)部件,來建設(shè)數(shù)據(jù)中心。

萬卡集群的AI數(shù)據(jù)中心,到底是如何運作的?

難道他們就不怕遇到地震、臺風(fēng)或者火災(zāi)啥的,把整個數(shù)據(jù)中心都弄沒了嗎?

其實盡管木質(zhì)數(shù)據(jù)中心聽上去是個非常激進的概念,但早在2019年就有公司就建成并投入使用了。

他們使用的也并不是那種直接從樹上鋸下的木板,而是名為正交膠合木(Cross-Laminated Timber,簡稱CLT)的建筑材料。

萬卡集群的AI數(shù)據(jù)中心,到底是如何運作的?

這種材料具有極高的強度和均勻性,直接作為承重墻板或者樓板使用都沒問題,同時它還有耐火的特性,英國就有棟名為Stadthaus的九層樓公寓,采用了CLT材料建成。

萬卡集群的AI數(shù)據(jù)中心,到底是如何運作的?

木質(zhì)材料不僅能滿足環(huán)保的要求,還能通過預(yù)制化,將整體的建設(shè)速度,加快40%~80%。

當(dāng)然,數(shù)據(jù)中心的建設(shè)不光是外部建筑,還有內(nèi)部的基礎(chǔ)設(shè)施需要定制。而現(xiàn)在,冷卻系統(tǒng)與供電設(shè)備也走向了預(yù)制化的道路。

萬卡集群的AI數(shù)據(jù)中心,到底是如何運作的?

雷愛民

維諦技術(shù)綜合解決方案架構(gòu)部總監(jiān):

現(xiàn)在的智算中心,客戶可能需要在6個月之內(nèi)建設(shè)好,這也是傳統(tǒng)建造方式的最快完工時間,而維諦的360AI智算解決方案,可以協(xié)助客戶縮小50%左右的時間。

我們在海外和一些算力公司、互聯(lián)網(wǎng)公司有合作,會根據(jù)它需要的算力,來定制全套的預(yù)制化基礎(chǔ)設(shè)施。就是說已經(jīng)提前把數(shù)據(jù)中心的基礎(chǔ)設(shè)施配套好了,同時對里面的供電、制冷、軟件,甚至工程的材料的預(yù)制化,都進行了詳細的部署。

萬卡集群的AI數(shù)據(jù)中心,到底是如何運作的?

將設(shè)備由定制改為預(yù)制,就能大幅節(jié)省工程時間,但這其中又會存在匹配性的問題。

雷愛民

維諦技術(shù)綜合解決方案架構(gòu)部總監(jiān):

不同的客戶他確實有很大的需求上的差別,比如政府和金融項目,金融客戶他最在乎的就高可靠性,他對創(chuàng)新、綠色持穩(wěn)健的態(tài)度,但是對互聯(lián)網(wǎng)公司來說,他在乎的就是創(chuàng)新性、成本、部署速度。所以說在這兩種客戶之間,我們提供的是差異化的服務(wù)、差異化的方案和服務(wù)。

不同的數(shù)據(jù)中心,都有自己獨特的需求,如果失去了“定制”這個環(huán)節(jié),是否意味著預(yù)制化的設(shè)備難以大量鋪開呢?

專家給我們解釋道,所謂的預(yù)制化,其實是預(yù)制了各個部件的模塊,在一個統(tǒng)一的平臺下,可以將這些模塊按需求來組裝,這樣就能滿足不同的客戶。

萬卡集群的AI數(shù)據(jù)中心,到底是如何運作的?

雷愛民

維諦技術(shù)綜合解決方案架構(gòu)部總監(jiān):

維諦實際上它在長期的發(fā)展和實踐里面,它形成了很多標(biāo)準(zhǔn)化的組件,所以說當(dāng)一項新的需求來臨的時候,我們可能優(yōu)先去選擇,在這個積木庫里面,去提取一些適合我們這個新的場景的一些部件和組件,這樣就可以高效率的搭建出一個適應(yīng)客戶新的需要的,這樣的一個產(chǎn)品類型。

打個比方,就像我們買來的樂高積木,其實是很多通用的小塊,它既可以拼成汽車,也能拼成飛機。

萬卡集群的AI數(shù)據(jù)中心,到底是如何運作的?

雖然我們常說,AI的飛躍源自芯片的積累,然而,為芯片運行打下基石的,是基礎(chǔ)設(shè)施的技術(shù)進步,它們?nèi)缤瑹o形的“兵部尚書”,在幕后默默支持和調(diào)控著前線士兵的作戰(zhàn)行動,讓AI大模型訓(xùn)練順利推進。

就像之前提到的,士兵的作戰(zhàn)效率在提升,那么兵部尚書的水平也要相對提高,這對整個AI芯片的上下游市場都提出了更高的要求,是挑戰(zhàn)也是機遇。

隨著更高能力、更多參數(shù)以及更大AI模型的投入訓(xùn)練,也許我們會看到數(shù)據(jù)中心更快的升級迭代,有更多的技術(shù)創(chuàng)新來支持AI大模型的技術(shù)大戰(zhàn)。

贊助本站

相關(guān)內(nèi)容
AiLab云推薦
推薦內(nèi)容
展開

熱門欄目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能實驗室 版權(quán)所有    關(guān)于我們 | 聯(lián)系我們 | 廣告服務(wù) | 公司動態(tài) | 免責(zé)聲明 | 隱私條款 | 工作機會 | 展會港