IBM開(kāi)發(fā)新的光學(xué)技術(shù)實(shí)現(xiàn)光速AI訓(xùn)練
IBM 開(kāi)發(fā)了一種新的光學(xué)技術(shù)，可以以光速訓(xùn)練 AI 模型，同時(shí)節(jié)省大量能源。該公司表示，通過(guò)將其突破性技術(shù)應(yīng)用于數(shù)據(jù)中心，訓(xùn)練 AI 模型時(shí)節(jié)省的能源相當(dāng)于 5000 個(gè)美國(guó)家庭的年度能源使用量。 +F1]M2p]
該公司解釋說(shuō)，雖然數(shù)據(jù)中心通過(guò)光纖電纜與外界相連，但在內(nèi)部，他們?nèi)栽谑褂勉~線。這些電線連接 GPU 加速器，這些加速器在等待來(lái)自其他設(shè)備的數(shù)據(jù)時(shí)會(huì)花費(fèi)大量時(shí)間處于空閑狀態(tài)，同時(shí)消耗能源并推高成本。 bs:C1j\&
[attachment=131041] %2^['8t#NH
IBM 高級(jí)副總裁兼研究總監(jiān) Dario Gil 在評(píng)論這一發(fā)展時(shí)表示：“由于生成 AI 需要更多的能源和處理能力，數(shù)據(jù)中心必須不斷發(fā)展——而同封裝光學(xué)器件可以使這些數(shù)據(jù)中心面向未來(lái)。有了這一突破，未來(lái)的芯片將像光纖電纜將數(shù)據(jù)傳入和傳出數(shù)據(jù)中心一樣進(jìn)行通信，開(kāi)啟一個(gè)更快、更可持續(xù)的通信新時(shí)代，可以處理未來(lái)的 AI 工作負(fù)載�！� 6>@( /mh*
IBM 在一份技術(shù)論文中概述了其新的共封裝光學(xué)器件 (CPO) 原型。通過(guò)顯著增加數(shù)據(jù)中心的帶寬，可以最大限度地減少 GPU 停機(jī)時(shí)間，從而加速 AI 處理。 ;[?J5X,
IBM 解釋說(shuō)，大型語(yǔ)言模型 (LLM) 的訓(xùn)練時(shí)間可以從三個(gè)月縮短到三周。同時(shí)，提高能源效率將減少能源使用量并降低與訓(xùn)練 LLM 相關(guān)的成本。
|