展會信息港展會大全

英偉達(dá)展望未來 AI 加速器:集成硅光子 I/O,3D 垂直堆疊內(nèi)存
來源:互聯(lián)網(wǎng)   發(fā)布日期:2024-12-10 12:12:03   瀏覽:148次  

導(dǎo)讀:IT之家 12 月 10 日消息,2024 IEEE IEDM 國際電子設(shè)備會議目前正在美國加州舊金山舉行。據(jù)分析師 Ian Cutress 的 X 平臺動態(tài),英偉達(dá)在本次學(xué)術(shù)會議上分享了有關(guān)未來 AI 加速器的構(gòu)想。英偉達(dá)認(rèn)為未來整個 AI 加速器復(fù)合體將位于大面積先進(jìn)封裝基板之上,采用垂直供電,集成硅光子 I/O 器件,GPU 采用多模塊設(shè)計(jì),3D 垂直堆疊 DRAM 內(nèi)存,并在模塊內(nèi)直接整合冷板。IT之家注:I ......

IT之家 12 月 10 日消息,2024 IEEE IEDM 國際電子設(shè)備會議目前正在美國加州舊金山舉行。據(jù)分析師 Ian Cutress 的 X 平臺動態(tài),英偉達(dá)在本次學(xué)術(shù)會議上分享了有關(guān)未來 AI 加速器的構(gòu)想。

英偉達(dá)認(rèn)為未來整個 AI 加速器復(fù)合體將位于大面積先進(jìn)封裝基板之上,采用垂直供電,集成硅光子 I/O 器件,GPU 采用多模塊設(shè)計(jì),3D 垂直堆疊 DRAM 內(nèi)存,并在模塊內(nèi)直接整合冷板。

IT之家注:Ian Cutress 還提到了硅光子中介層,但相關(guān)內(nèi)容不在其分享的圖片中。

英偉達(dá)展望未來 AI 加速器:集成硅光子 I/O,3D 垂直堆疊內(nèi)存

在英偉達(dá)給出的模型中,每個 AI 加速器復(fù)合體包含 4 個 GPU 模塊,每個 GPU 模塊與 6 個小型 DRAM 內(nèi)存模塊垂直連接并與 3 組硅光子 I/O 器件配對。

硅光子 I/O 可實(shí)現(xiàn)超越現(xiàn)有電氣 I/O 的帶寬與能效表現(xiàn),是目前先進(jìn)工藝的重要發(fā)展方向;3D 垂直堆疊的 DRAM 內(nèi)存較目前的 2.5D HBM 方案擁有更低信號傳輸距離,有益于 I/O 引腳的增加和每引腳速率的提升;垂直集成更多器件導(dǎo)致發(fā)熱提升,模塊整合冷板可提升解熱能力。

Ian Cutress 認(rèn)為這一設(shè)想中的 AI 加速器復(fù)合體要等到 2028~2030 年乃至更晚才會成為現(xiàn)實(shí)

一方面,由于英偉達(dá) AI GPU 訂單龐大,對硅光子器件產(chǎn)能的需求也會很高,只有當(dāng)英偉達(dá)能保障每月 100 萬以上硅光子連接時才會轉(zhuǎn)向光學(xué) I/O;

另一方面,垂直芯片堆疊所帶來的熱效應(yīng)需要以更先進(jìn)的材料來解決,屆時可能會出現(xiàn)芯片內(nèi)冷卻方案。

贊助本站

相關(guān)內(nèi)容
AiLab云推薦
展開

熱門欄目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能實(shí)驗(yàn)室 版權(quán)所有    關(guān)于我們 | 聯(lián)系我們 | 廣告服務(wù) | 公司動態(tài) | 免責(zé)聲明 | 隱私條款 | 工作機(jī)會 | 展會港