IBM引入“光的力量”至芯片 使速度提升80倍

  ICC訊  周一，IBM宣布在光學技術(shù)上取得了突破性的進展，該技術(shù)有望大幅改進數(shù)據(jù)中心訓練和運行生成式人工智能（AI）模型的方式。其新型共封裝光學技術(shù)（Co-packaged optics）基本實現(xiàn)了將光學技術(shù)的力量帶入芯片內(nèi)部，使得數(shù)據(jù)中心內(nèi)的連接可以達到光速。

圖片來源：IBM官網(wǎng)

  在一次媒體簡報會上，IBM半導體總經(jīng)理Mukesh Khare對記者說，電信行業(yè)在制造更快的芯片方面已經(jīng)取得了顯著進步，但是這些芯片之間的通信速度并沒有跟上這個步伐。計算能力的增長速度與芯片間通信速度的增長速度之間存在幾個數(shù)量級的差距。

  他指出：“實際上，從更基礎(chǔ)的層面上講，芯片依然通過電進行通信，它們使用銅線。而我們都知道，最優(yōu)秀的通信技術(shù)是光纖，這就是為什么在長距離通信中到處都在使用光纖?！?

  盡管共封裝光學技術(shù)已經(jīng)存在一段時間，但IBM開發(fā)了一種新型的聚合物光波導（PWG）技術(shù)，為共封裝光學帶來了革新。PWG技術(shù)使得芯片制造商能夠在硅光子芯片的邊緣區(qū)域——這一被稱為“黃金地段”的寶貴空間——布置比以往多六倍的光纖。每根光纖的寬度大約是人類頭發(fā)的三倍，長度可以從幾厘米延伸到數(shù)百米，并且能夠以每秒太比特的速度傳輸數(shù)據(jù)。

  這一切意味著什么呢？

  該公司表示，這項技術(shù)將使得芯片間的通信帶寬比現(xiàn)在使用電子技術(shù)時快80倍，并將能耗降低五倍以上。

  此外，它還可以使大型語言模型（LLM）的訓練速度提高多達五倍，將訓練標準LLM所需的時間從三個月縮短到三周，而且隨著更大模型和更多GPU的使用，性能增益還會增加。

  除了讓GPU和加速器之間更快地相互通信之外，這種技術(shù)還可能重新定義計算行業(yè)通過電路板和服務(wù)器傳輸高帶寬數(shù)據(jù)的方式。

  Khare表示：“我們非常興奮能夠引入光的力量，從根本上加速了人工智能世界和許多其他應(yīng)用的發(fā)展?！?

  當被問及這項技術(shù)何時會商業(yè)化時，Khare表示IBM的研究部門“已經(jīng)準備好投入使用”。

  官方原文：https://uk.newsroom.ibm.com/IBM-Brings-the-Speed-of-Light-to-the-Generative-AI-Era-with-Optics-Breakthrough