Marvell CEO：2023-2025財年人工智能收入CAGR將超100%

  ICC訊（編譯：Nina）在5月底的第一財季財報電話會議上，Marvell總裁兼首席執(zhí)行官Matt Murphy詳述了人工智能(AI)為公司帶來的巨大機遇：

  過去，我們認為人工智能只是云計算中的眾多應(yīng)用之一，但它的重要性和機會已經(jīng)急劇增加。生成式人工智能(Generative AI)正在迅速推動新的應(yīng)用，并改變我們云客戶的投資優(yōu)先級。今天的人工智能工作負載需要真正龐大的數(shù)據(jù)集。

  為了有效地處理這些數(shù)據(jù)，人工智能數(shù)據(jù)中心的架構(gòu)與標(biāo)準的云基礎(chǔ)設(shè)施有很大不同。人工智能中的主要構(gòu)建塊是一個包含多個加速器(如GPU)的系統(tǒng)，而不是將雙插槽服務(wù)器作為機架中的核心元素。在大型部署中，數(shù)千個這樣的系統(tǒng)相互連接，形成一個數(shù)據(jù)中心大小的人工智能集群?；ミB這些系統(tǒng)所需的帶寬比標(biāo)準云基礎(chǔ)設(shè)施高出幾個數(shù)量級。

  比如說，目前云數(shù)據(jù)中心中最新的雙CPU服務(wù)器可以驅(qū)動高達200Gbps的IO，并包含支持該帶寬的網(wǎng)絡(luò)接口。相比之下，一個包含8個加速器的先進人工智能系統(tǒng)可以驅(qū)動近30TB的全雙工帶寬。這是將這些系統(tǒng)連接在一起所需帶寬的數(shù)百倍。請記住，領(lǐng)先的云數(shù)據(jù)中心將數(shù)千個這樣的系統(tǒng)連接到一個集群中，為其客戶提供最大的可擴展性，每個這樣的系統(tǒng)都能夠驅(qū)動數(shù)十TB的網(wǎng)絡(luò)流量。

  為了在數(shù)據(jù)中心規(guī)模上創(chuàng)建盡可能大的集群規(guī)模，這些連接需要能夠在越來越遠的距離上運行。這些集群需要驚人數(shù)量的高帶寬連接，且所有這些高帶寬連接都需要在合理的功率范圍內(nèi)以超低延遲和高可靠性提供。這種連接最好由全光連接的基礎(chǔ)設(shè)施提供，利用數(shù)字信號處理和低延遲、高容量的光纖交換機。這就是為什么我們將人工智能視為PAM4光學(xué)DSP平臺的強大增長驅(qū)動力。

  值得注意的是，這些DSP與各種網(wǎng)絡(luò)協(xié)議兼容，如以太網(wǎng)、InfiniBand和其他專有解決方案，以實現(xiàn)最大的廣度和靈活性。展望未來，我們看到這一趨勢只會加速。盡管當(dāng)今最先進的人工智能系統(tǒng)已經(jīng)在使用可用的最高帶寬接口，但您可能會驚訝地發(fā)現(xiàn)，當(dāng)前人工智能實現(xiàn)的性能規(guī)模仍然受到網(wǎng)絡(luò)容量的限制。以我前面討論的8加速器AI系統(tǒng)為例。

  目前，這些系統(tǒng)通常包含4個800Gbps外部連接光接口，提供每秒3.2TB的帶寬。但這是在一個能夠驅(qū)動接近10倍帶寬的系統(tǒng)中實現(xiàn)的。為了彌補這一差距，我們預(yù)計隨著這些集群的規(guī)模擴大，每個人工智能系統(tǒng)的光學(xué)接口數(shù)量將繼續(xù)增長。預(yù)計下一代加速器將具有更高的計算能力和更高的帶寬要求。

  考慮到人工智能基礎(chǔ)設(shè)施的發(fā)展速度，技術(shù)更新周期為18到24個月，而標(biāo)準基礎(chǔ)設(shè)施的更新周期為4年多。總之，我們預(yù)計這些AI集群中的大量連接、更高速光學(xué)接口的日益采用和更快的更新周期將成為我們PAM4 DSP平臺的主要需求驅(qū)動因素。事實上，在上一次電話財報會議中，我們指出，我們行業(yè)領(lǐng)先的800G DSP平臺的增長幾乎完全是由AI應(yīng)用驅(qū)動的。我們還推出了業(yè)界首個1.6TB PAM4 DSP平臺，將當(dāng)前一代的吞吐量提高了一倍。我們預(yù)計人工智能也將推動這些產(chǎn)品的初步采用。

來源：Marvell官網(wǎng)

  此外，由于服務(wù)提供商在多個區(qū)域數(shù)據(jù)中心部署了推理(Inference)，這些數(shù)據(jù)中心需要通過數(shù)十公里的高帶寬、低延遲光鏈路連接。這項技術(shù)被稱為數(shù)據(jù)中心互連(DCI)，而Marvell一直是該市場的先驅(qū)。我們?yōu)镈CI創(chuàng)建了業(yè)界首個可插拔模塊，目前我們最新的DCI產(chǎn)品線提供400Gbps的速率。

  我們已經(jīng)看到，人工智能云數(shù)據(jù)中心正在推動我們400ZR解決方案需求的大幅增長。我們DCI產(chǎn)品的另一個需求驅(qū)動因素是，服務(wù)提供商正計劃在不同站點的集群加速器上實施下一代人工智能。人工智能也是數(shù)據(jù)中心內(nèi)交換需求的關(guān)鍵增長驅(qū)動力。Marvell在低延遲、高容量交換機市場上的地位越來越高，我們看到市場對我們產(chǎn)品的強勁需求。

  我們最近發(fā)布了下一代51.2T Teralynx 10以太網(wǎng)交換平臺。平臺基于我們從Innovium收購的低延遲架構(gòu)，并建立在Marvell領(lǐng)先的5nm技術(shù)平臺上。我們看到客戶對這種產(chǎn)品非常感興趣。我們預(yù)計人工智能將引領(lǐng)行業(yè)從目前的12.8T交換機過渡到51.2T，使網(wǎng)絡(luò)帶寬翻四番。

  我們預(yù)計51.2T的采用將成為網(wǎng)絡(luò)半導(dǎo)體市場的強勁增長動力。綜上所述，Marvell已經(jīng)在人工智能網(wǎng)絡(luò)連接領(lǐng)域建立了領(lǐng)先地位。我們預(yù)計，在人工智能投資不斷增長的推動下，PAM4光學(xué)、DCI和以太網(wǎng)交換解決方案將出現(xiàn)巨大增長。也許，更令人興奮的是，Marvell有機會為我們的云優(yōu)化硅平臺解決人工智能計算問題。

  正如前面所述，人工智能數(shù)據(jù)中心的架構(gòu)是根本不同的。在標(biāo)準云基礎(chǔ)設(shè)施中，大部分計算由CPU執(zhí)行，而加速器主要用于卸載任務(wù)，如網(wǎng)絡(luò)和安全。相比之下，在人工智能基礎(chǔ)設(shè)施中，GPU等加速器是主要的計算引擎，而CPU用于控制目的，與標(biāo)準云基礎(chǔ)設(shè)施形成了180度的逆轉(zhuǎn)。根本性的差異導(dǎo)致人工智能基礎(chǔ)設(shè)施中加速器與CPU相比的比例更高，加速器現(xiàn)在是主要的計算機會。

  鑒于此，再加上人工智能投資的急劇增加，正在推動更高比例的增量計算TAM和云數(shù)據(jù)中心轉(zhuǎn)向加速器。今天，我們看到云客戶通過構(gòu)建自己的定制加速器來增強他們的人工智能產(chǎn)品，以滿足他們的特定需求。這是Marvell云優(yōu)化硅戰(zhàn)略的核心部分，我們現(xiàn)在看到，在人工智能基礎(chǔ)設(shè)施中，定制計算擁有更大、更快增長的機會。當(dāng)我們之前在2021年10月的投資者日上討論我們的云優(yōu)化硅機會和收入增長預(yù)期時，我們預(yù)計，一旦所有項目投入生產(chǎn)，首批Design Win的收入將增長到每年8億美元。

  這些Design包括各種加速計算應(yīng)用，包括人工智能、安全、存儲和視頻，以及一些網(wǎng)絡(luò)應(yīng)用。今時今日，當(dāng)我們看到由人工智能驅(qū)動的同一組Design Win時，我們對其在整個生命周期的總收入預(yù)期顯著增加。與此同時，人工智能在整個生命周期收入中所占的相對比例從我們之前預(yù)測的約20%增加到今天的一半以上。因此，計算人工智能應(yīng)用現(xiàn)已成為Marvell云優(yōu)化硅平臺最大的收入來源和機會。

  隨著人工智能需求的持續(xù)增長，我們看到，隨著時間的推移，這些云優(yōu)化Design Win的年收入將遠遠超過此前預(yù)計的8億美元。事實上，我們有許多與人工智能相關(guān)的定制硅產(chǎn)品，預(yù)計明年將投入批量生產(chǎn)。

  除了在人工智能網(wǎng)絡(luò)連接方面的強勢地位外，我們相信Marvell已經(jīng)做好了應(yīng)對計算機會的準備。在過去的幾個月里，我們花時間仔細繪制了人工智能的收入圖，以跟蹤它的進展。鑒于我們已經(jīng)取得的巨大進步，包括最近客戶需求的增長，我們預(yù)計人工智能應(yīng)用帶來的收入將加速增長。在2023財年，我們估計我們的人工智能收入約為2億美元，比前一年大幅增長。

  該收入主要來自我們的PAM4光學(xué)和400ZR DCI產(chǎn)品。自3月初財報電話會議以來，這些產(chǎn)品的預(yù)訂量大幅增加。因此，我們預(yù)計Marvell的整體人工智能收入在2024財年至少會翻一番。展望2025財年，我們預(yù)計人工智能網(wǎng)絡(luò)連接將繼續(xù)實現(xiàn)強勁增長。

  總的來說，我們預(yù)計明年我們的整體人工智能收入將至少再翻一番。換句話說，我們預(yù)測2023-2025財年人工智能收入的復(fù)合年增長率將超過100%。未來，我們預(yù)計涉及視頻和圖像的生成式人工智能實現(xiàn)將為HDD和閃存的整體存儲和EB增長提供推動力。