LC：人工智能毫無懸念主宰了2024年Hot Chips大會

  ICC訊  今年的年度Hot Chips會議代表了生成式人工智能（AI）炒作周期的頂峰。符合這一主題，OpenAI的Trevor Cai在他的主旨演講中強調(diào)了AI計算的重要性。然而，在一個以技術(shù)披露聞名的會議上，商用芯片供應商的展示令人失望；盡管有一系列精彩的演講，但幾乎沒有新的細節(jié)浮出水面。英偉達關(guān)于Blackwell的演講大多重復了之前公布的信息。不過，在“一張圖片勝過千言萬語”的時刻，一張幻燈片上展示了下面所示的GB200 NVL36機架的照片。

  許多客戶更偏愛耗電較少的NVL36配置，而不是需要巨大電力支持（每機架120千瓦）的NVL72配置。對于讀者來說，關(guān)鍵的區(qū)別在于，機架中間顯示的NVLink交換托盤具有前面板籠子，而用于NVL72的“不可擴展”NVLink交換托盤只有用于NVLink脊/背板的后面板連接器。盡管英偉達省略了布線細節(jié)，但外部NVLink線纜可能包括無源（DAC）和有源銅（ACC/AEC）以及可插拔光學器件。NVL36為布線創(chuàng)造了一個新的市場細分，盡管短期內(nèi)主要針對銅纜。

  英特爾早在今年四月份就宣布了其Gaudi 3 AI加速器，但重溫一下它的網(wǎng)絡規(guī)格還是值得的。新芯片集成了24個200G以太網(wǎng)端口，使用48個112G SerDes。像微軟的Maia一樣，Gaudi 3芯片可以直接連接以進行擴展，并通過交換機進行集群擴展。集成網(wǎng)卡支持RoCE協(xié)議，實現(xiàn)低延遲RDMA數(shù)據(jù)傳輸。在另一個演講中，英特爾再次討論了4Tbps光計算互連（OCI）芯粒。演講者強調(diào)了激光集成的價值，并指出迄今為止已發(fā)貨的超過3000萬個激光器所展現(xiàn)的0.1FIT可靠性。

  博通展示了其適用于帶光接口的人工智能計算ASIC的共封裝光學（CPO）技術(shù)。雖然演講的第一部分主要介紹了Bailly CPO交換機，但后半部分包含了一些有關(guān)XPU的CPO的新細節(jié)和概念。公司引入了“Oceanfront”這個概念，它不同于硅Beachfront。將光學引擎附著到CoWoS封裝基板上，為CPO提供了比硅中介層更多的線性空間。演講還提出了在未來光學引擎中使用雙向（bidi）信號的概念，以將所需的光纖數(shù)量減少一半。

  也許商用芯片供應商在今年讓位于數(shù)據(jù)中心運營商是合適的。畢竟，后者正在推動對AI基礎設施的大規(guī)模投資。AI架構(gòu)的多樣性應該有利于供應鏈，在英偉達定制的全棧解決方案之外創(chuàng)造機會。