IT之家 4 月 11 日消息，曾幾何時(shí)，英偉達(dá)用于人工智能計(jì)算的 H100 GPU 供不應(yīng)求。然而據(jù) Digitimes 報(bào)道，臺(tái)積電的臺(tái)灣地區(qū)總經(jīng)理 Terence Liao 表示，過去幾個(gè)月英偉達(dá) H100 的交貨等待時(shí)間已經(jīng)大幅縮短，從最初的 3-4 個(gè)月降至目前的 2-3 個(gè)月（8-12 周）。服務(wù)器代工廠商也透露，相比 2023 年幾乎無法買到英偉達(dá) H100 的情況，目前供應(yīng)瓶頸正在逐步緩解。
盡管交貨等待時(shí)間有所縮短，Terence Liao 表示，對于人工智能硬件的需求仍然非常旺盛。即使價(jià)格昂貴，用于人工智能的服務(wù)器采購也正在取代通用服務(wù)器的采購。但他認(rèn)為，交付周期太長正是導(dǎo)致需求看起來居高不下的主要原因。
IT之家注意到，目前 2-3 個(gè)月的交貨等待時(shí)間是英偉達(dá) H100 GPU 史上最短的。僅僅 6 個(gè)月之前，等待時(shí)間還長達(dá) 11 個(gè)月，大多數(shù)英偉達(dá)的客戶需要等待將近一年的時(shí)間才能拿到他們訂購的人工智能 GPU。
自 2024 年初以來，H100 GPU 交貨等待時(shí)間一直在顯著縮短。今年年初，等待時(shí)間就已經(jīng)從最初的數(shù)月降至 3-4 個(gè)月。現(xiàn)在又進(jìn)一步縮短了一個(gè)月。依這樣的速度，到今年年底甚至更早，或許將不再需要等待。
導(dǎo)致這種情況變化的部分原因可能是，一些公司持有過剩的 H100 GPU 庫存，并且為了降低閑置庫存的高額維護(hù)成本而進(jìn)行轉(zhuǎn)售。此外，亞馬遜云科技 (AWS) 方便了用戶通過云端租賃英偉達(dá) H100 GPU，這也幫助緩解了部分對 H100 的需求壓力。
目前唯一仍在承受供應(yīng)限制的英偉達(dá)客戶是一些大型企業(yè)，例如 OpenAI，這類公司正在研發(fā)自己的大型語言模型 (LLM)。訓(xùn)練大型語言模型需要成千上萬顆 GPU 才能快速高效地完成，因此這些公司仍然面臨著供應(yīng)瓶頸的挑戰(zhàn)。
