Q324全球AI加速器收入飆升130%

  ICC訊  Dell’Oro最近發(fā)布的一份報(bào)告指出，由圖形處理單元（GPU）和定制加速器組成的加速器市場，在2024年第三季度的收入增長了130%。美國的主要超大規(guī)模云服務(wù)提供商，如亞馬遜、谷歌、Meta和微軟，正積極擴(kuò)展其基礎(chǔ)設(shè)施，以支持大型語言模型的訓(xùn)練和推理，預(yù)計(jì)全年將部署超過500萬個(gè)能夠進(jìn)行人工智能（AI）訓(xùn)練的加速器。

  Dell'Oro集團(tuán)高級(jí)研究總監(jiān)Baron Fung表示：“隨著超大規(guī)模服務(wù)商競相構(gòu)建用于大型語言模型訓(xùn)練和推理的基礎(chǔ)設(shè)施，加速器的需求呈現(xiàn)出驚人的增長速度。除了商用GPU之外，美國的超大規(guī)模服務(wù)商也在增加使用定制加速器來建設(shè)AI基礎(chǔ)設(shè)施。隨著大型語言模型規(guī)模的不斷擴(kuò)大，對(duì)更大計(jì)算集群的需求也隨之增加，這促使超大規(guī)模服務(wù)商加快采用定制加速器。他們通常與博通和Marvell等芯片制造商合作開發(fā)定制解決方案，旨在提高性能效率、降低成本，并減少對(duì)英偉達(dá)（NVIDIA）GPU的依賴。”

  此外，該季度報(bào)告還強(qiáng)調(diào)了以下要點(diǎn)：

  - 2024年，服務(wù)器和存儲(chǔ)系統(tǒng)組件市場預(yù)計(jì)將增長超過100%，其中加速器、內(nèi)存和存儲(chǔ)驅(qū)動(dòng)器是推動(dòng)增長的關(guān)鍵因素。

  - NVIDIA在組件收入方面占據(jù)主導(dǎo)地位，遠(yuǎn)遠(yuǎn)領(lǐng)先于其他供應(yīng)商，三星和SK海力士則緊隨其后。NVIDIA幾乎占到了總收入的一半，而部署定制解決方案的超大規(guī)模服務(wù)商正在迅速趕上。

  - 2024年第三季度，智能網(wǎng)絡(luò)接口卡（Smart NIC）和數(shù)據(jù)處理單元（DPU）的收入幾乎翻了一番，這是由AI集群中網(wǎng)卡的強(qiáng)勁部署推動(dòng)的。

  - 預(yù)計(jì)到2025年，增長速度雖然會(huì)有所放緩但仍將保持健康的兩位數(shù)增長，年初可能會(huì)因庫存調(diào)整而導(dǎo)致通用服務(wù)器組件的增長放緩。

  Dell’Oro曾在2024年8月發(fā)布對(duì)加速器市場的五年預(yù)測。報(bào)告稱，由于超大規(guī)模云服務(wù)提供商和企業(yè)市場的人工智能相關(guān)數(shù)據(jù)中心資本支出激增，且在預(yù)測期內(nèi)仍將保持高位，未來五年，加速器收入（主要由GPU和定制加速器組成）預(yù)計(jì)將以38%的復(fù)合年增長率（CAGR）增長。