Marvell發(fā)布突破性CPO架構(gòu) 助力定制AI加速器

  ICC訊  美國(guó)加州圣克拉拉，2025年1月6日——數(shù)據(jù)基礎(chǔ)設(shè)施半導(dǎo)體解決方案的領(lǐng)導(dǎo)者M(jìn)arvell Technology, Inc.（納斯達(dá)克：MRVL），今天宣布其在共封裝光學(xué)（Co-Packaged Optics，CPO）技術(shù)上的重要進(jìn)展，用于定制AI加速器（XPU）。基于最近發(fā)布的高帶寬內(nèi)存（HBM）計(jì)算架構(gòu)，Marvell正在擴(kuò)展其定制硅片領(lǐng)導(dǎo)地位，通過(guò)讓客戶將CPO無(wú)縫集成到下一代定制XPU中，實(shí)現(xiàn)從當(dāng)前單個(gè)機(jī)架內(nèi)數(shù)十個(gè)XPU使用銅纜連接，到跨多個(gè)機(jī)架數(shù)百個(gè)XPU使用CPO連接的轉(zhuǎn)變，從而顯著提升AI服務(wù)器性能。

  Marvell的創(chuàng)新架構(gòu)使云超大規(guī)模供應(yīng)商能夠開(kāi)發(fā)出更高帶寬密度的定制XPU，并在單一AI服務(wù)器內(nèi)實(shí)現(xiàn)更遠(yuǎn)距離的XPU間連接，同時(shí)保持最優(yōu)的延遲和功耗效率。此架構(gòu)現(xiàn)已可用于Marvell客戶的下一代定制XPU設(shè)計(jì)中。

  Marvell的定制AI加速器架構(gòu)將XPU計(jì)算芯片、HBM和其他Chiplets與Marvell 3D SiPho引擎結(jié)合在同一襯底上，采用高速SerDes、模對(duì)模接口和先進(jìn)封裝技術(shù)。這一做法消除了電信號(hào)需要離開(kāi)XPU封裝進(jìn)入銅纜或穿過(guò)印刷電路板的需求。通過(guò)集成光學(xué)組件，XPU之間的連接可以實(shí)現(xiàn)比傳統(tǒng)電氣線纜快百倍的數(shù)據(jù)傳輸速率和距離，使得AI服務(wù)器內(nèi)的擴(kuò)展連接能夠跨越多個(gè)機(jī)架，同時(shí)保持最佳的延遲和功耗。

  CPO技術(shù)將光學(xué)組件直接集成在一個(gè)封裝內(nèi)，最小化電路徑長(zhǎng)度。這種緊密耦合大大減少了信號(hào)損失，增強(qiáng)了高速信號(hào)完整性，并降低了延遲。CPO通過(guò)利用高帶寬硅光子學(xué)光學(xué)引擎來(lái)提高數(shù)據(jù)吞吐量，相比傳統(tǒng)銅連接，這些引擎提供更高的數(shù)據(jù)傳輸速率且不易受電磁干擾影響。此外，它還通過(guò)減少對(duì)高功率電驅(qū)動(dòng)器、重定時(shí)器的需求來(lái)改善功耗效率。CPO技術(shù)通過(guò)啟用更長(zhǎng)距離和更高密度的XPU至XPU連接，促進(jìn)了高性能、大容量的可擴(kuò)展AI服務(wù)器的發(fā)展，優(yōu)化了下一代加速基礎(chǔ)設(shè)施的計(jì)算性能和功耗。

  在OFC 2024上首次亮相的Marvell 3D SiPho引擎，是業(yè)內(nèi)首款支持200Gbps電接口和光接口的技術(shù)，為將共封裝光學(xué)（CPO）集成到XPU中提供了基礎(chǔ)構(gòu)建模塊。Marvell的6.4T 3D SiPho引擎是一個(gè)高度集成的光引擎，它集成了32個(gè)通道的200Gbps電接口和光接口，以及包括調(diào)制器、光電探測(cè)器、調(diào)制器驅(qū)動(dòng)器、跨阻抗放大器、微控制器在內(nèi)的數(shù)百個(gè)組件，以及其他眾多無(wú)源組件，所有這些都被整合到一個(gè)統(tǒng)一的設(shè)備中，從而實(shí)現(xiàn)了相比100Gbps接口的同類設(shè)備兩倍的帶寬、兩倍的輸入/輸出帶寬密度，并且每比特功耗降低了30%。目前，多家客戶正在評(píng)估這項(xiàng)技術(shù)，考慮將其集成到下一代解決方案中。

  八年多來(lái)，Marvell為連續(xù)幾代高性能、低功耗COLORZ®數(shù)據(jù)中心互連光模塊提供硅光子學(xué)技術(shù)。該技術(shù)已被許多領(lǐng)先的超大規(guī)模企業(yè)認(rèn)證并部署在大批量生產(chǎn)中，以滿足其不斷增長(zhǎng)的數(shù)據(jù)中心到數(shù)據(jù)中心帶寬需求。Marvell硅光子學(xué)器件的工作時(shí)間已超過(guò)100億小時(shí)。

  Marvell一直是互連技術(shù)變革的先驅(qū)，致力于提升加速基礎(chǔ)設(shè)施的性能、可擴(kuò)展性和經(jīng)濟(jì)效益。Marvell的互連產(chǎn)品組合包括用于定制XPU內(nèi)部高性能通信的高速SerDes和芯片間技術(shù)知識(shí)產(chǎn)權(quán)（IP）、用于同一電路板上CPU與XPU之間高效短距離連接的PCIe重定時(shí)器、用于克服內(nèi)存挑戰(zhàn)的突破性CXL設(shè)備、用于機(jī)架內(nèi)短距離連接的有源電纜（AEC）和有源光纜（AOC）數(shù)字信號(hào)處理器（DSP），以及不斷擴(kuò)展的用于數(shù)據(jù)中心內(nèi)機(jī)架到機(jī)架連接的PAM光學(xué)DSP系列，還有用于連接相隔數(shù)千公里的數(shù)據(jù)中心的相干DSP和數(shù)據(jù)中心互連模塊。

  “Marvell的定制AI加速器CPO架構(gòu)使云超大規(guī)模供應(yīng)商能夠開(kāi)發(fā)出顯著增加其AI服務(wù)器密度和性能的定制XPU?！盡arvell定制、計(jì)算和存儲(chǔ)集團(tuán)高級(jí)副總裁兼總經(jīng)理Will Chu表示，“將光學(xué)組件直接集成到XPU中，將定制加速基礎(chǔ)設(shè)施提升到了超大規(guī)模供應(yīng)商必須提供的下一個(gè)級(jí)別的規(guī)模和優(yōu)化水平，以滿足AI應(yīng)用不斷增長(zhǎng)的需求。”

  “為了支持前所未有的XPU集群規(guī)模，AI可擴(kuò)展服務(wù)器需要具有更高速度的信號(hào)傳輸能力和更長(zhǎng)距離的連接?！盡arvell網(wǎng)絡(luò)交換業(yè)務(wù)部高級(jí)副總裁兼總經(jīng)理Nick Kucharewski說(shuō)，“在定制XPU中集成共封裝光學(xué)是提升性能、實(shí)現(xiàn)更高互連帶寬和更遠(yuǎn)距離的合理下一步。”

  “硅光子對(duì)于擴(kuò)展加速基礎(chǔ)設(shè)施的連接至關(guān)重要，可以滿足日益增長(zhǎng)的帶寬需求、互連距離、功耗和總擁有成本?！盡arvell光平臺(tái)高級(jí)副總裁兼首席技術(shù)官Radha Nagarajan說(shuō)，“自2017年以來(lái)，Marvell一直是高產(chǎn)量硅光子器件領(lǐng)域的先驅(qū)，我們利用這一專長(zhǎng)為定制XPU連接這一殺手級(jí)CPO用例創(chuàng)建了前沿的CPO架構(gòu)?！?

  “云超大規(guī)模供應(yīng)商將把CPO技術(shù)集成到他們下一代的定制XPU和可擴(kuò)展服務(wù)器中，以滿足AI性能需求的急劇增長(zhǎng)?！盠ightCounting創(chuàng)始人兼首席執(zhí)行官Vlad Kozlov預(yù)測(cè)，“我們預(yù)計(jì)，CPO將從目前不到5萬(wàn)端口的發(fā)貨量增長(zhǎng)到2029年超過(guò)1800萬(wàn)個(gè)CPO端口，其中大多數(shù)端口將用于服務(wù)器內(nèi)部的連接。憑借在光學(xué)技術(shù)和定制XPU方面的豐富經(jīng)驗(yàn)，Marvell處于絕佳的優(yōu)勢(shì)地位，能夠幫助超大規(guī)模企業(yè)充分挖掘共封裝光學(xué)（CPO）的潛力，并將其作為基礎(chǔ)設(shè)施的關(guān)鍵組成部分?！?

  原文：https://www.marvell.com/company/newsroom/marvell-co-packaged-optics-architecture-custom-ai-accelerators.html