清華大學(xué)研發(fā)智能光芯片“太極” 賦能大模型算力智能光計(jì)算作為近年來新興的計(jì)算模態(tài),具備高速、低功耗等特性,在后摩爾時(shí)代展現(xiàn)出有望超越硅基電子計(jì)算的潛力,解決人工智能領(lǐng)域的算力與功耗難題。然而,其計(jì)算任務(wù)往往局限于簡單的字符分類、圖像處理等。其痛點(diǎn)是光的計(jì)算優(yōu)勢被困在了不適合的電架構(gòu)中,計(jì)算規(guī)模受限,無法支撐復(fù)雜大模型智能計(jì)算。 針對大規(guī)模光電智能計(jì)算難題,清華大學(xué)電子工程系方璐副教授課題組、自動(dòng)化系戴瓊海院士課題組,構(gòu)建了智能光計(jì)算的通用傳播模型,摒棄了傳統(tǒng)電子深度計(jì)算范式,另辟蹊徑,首創(chuàng)了分布式廣度光計(jì)算架構(gòu),研制了全球首款大規(guī)模干涉-衍射異構(gòu)集成芯片“太極”(Taichi),實(shí)現(xiàn)了160 TOPS/W的通用智能計(jì)算。 化深為廣,分布式廣度光計(jì)算架構(gòu)。建立自頂向下的編碼拆分-解碼重構(gòu)機(jī)制,將復(fù)雜智能任務(wù)化繁為簡,拆分為多通道高并行的子任務(wù),構(gòu)建分布式淺層光網(wǎng)絡(luò)對子任務(wù)分而治之,突破物理器件多層深度級(jí)聯(lián)的固有計(jì)算誤差。相異于電學(xué)神經(jīng)網(wǎng)絡(luò)依賴網(wǎng)絡(luò)深度以實(shí)現(xiàn)復(fù)雜的計(jì)算與功能,“太極”架構(gòu)源自光計(jì)算獨(dú)特的“全連接”與“高并行”屬性,化深度計(jì)算為廣度計(jì)算,為實(shí)現(xiàn)規(guī)模易擴(kuò)展、計(jì)算高并行、系統(tǒng)強(qiáng)魯棒的通用智能光計(jì)算探索了新路徑。 化深為廣:Taichi分布式廣度光計(jì)算架構(gòu) 兩儀一元,干涉-衍射融合計(jì)算芯片。以周易典籍“易有太極,是生兩儀”為啟發(fā),建立干涉-衍射聯(lián)合傳播模型,刻畫衍射光計(jì)算大規(guī)模并行優(yōu)勢與干涉光計(jì)算靈活重構(gòu)特性,提出衍射編碼-干涉特征計(jì)算-衍射解碼的融合計(jì)算方法,研制了干涉-衍射異構(gòu)集成智能光芯片,實(shí)現(xiàn)片上大規(guī)模通用光計(jì)算。更進(jìn)一步,受益于光的高速傳播特性,將衍射編解碼與干涉特征計(jì)算進(jìn)行部分/整體重構(gòu)復(fù)用,以時(shí)序復(fù)用突破通量瓶頸,自底向上支撐分布式廣度光計(jì)算架構(gòu)。 兩儀一元:干涉-衍射融合計(jì)算芯片 據(jù)論文報(bào)道,“太極”芯片具備879 T MACS/mm^2的面積效率與160 TOPS/W的能量效率,首次賦能光計(jì)算實(shí)現(xiàn)自然場景千類對象識(shí)別、跨模態(tài)內(nèi)容生成等人工智能復(fù)雜任務(wù),將為百億像素大場景光速智能分析、百億參數(shù)大模型訓(xùn)練推理、低功耗自主智能無人系統(tǒng)提供算力支撐。 通用大規(guī)模光計(jì)算從無極至太極,以致萬物化生。課題組希望“太極”可以在如今大模型通用人工智能蓬勃發(fā)展的時(shí)代,以光子之道,為高性能計(jì)算探索新靈感、新架構(gòu)、新路徑。 相關(guān)研究成果以“大規(guī)模光芯片太極賦能160 TOPS/W通用人工智能”(Large-scale photonic chiplets Taichi empowers 160 TOPS/W artificial general intelligence)為題,于北京時(shí)間4月12日凌晨發(fā)表于《科學(xué)》(Science)雜志。 清華大學(xué)電子工程系為論文的第一單位,清華大學(xué)電子系副教授方璐、自動(dòng)化系教授戴瓊海為論文通訊作者,電子系2020級(jí)博士生徐智昊、博士后周天貺(清華大學(xué)水木學(xué)者)為論文第一作者。該課題得到科技部2030“新一代人工智能”重大項(xiàng)目、基礎(chǔ)科學(xué)中心項(xiàng)目,清華大學(xué)-之江實(shí)驗(yàn)室聯(lián)合研究中心等的支持。 論文鏈接:https://www.science.org/doi/10.1126/science.adl1203 |
最新評論
-
liu.wade 2024-04-13 15:53清華大學(xué)研發(fā)智能光芯片“太極” 賦能大模型算力
-
wangjin001x 2024-04-13 21:05清華大學(xué)研發(fā)智能光芯片“太極” 賦能大模型算力
-
lnoptics 2024-06-01 01:51干涉-衍射異構(gòu)集成芯片“太極”:
1. 實(shí)現(xiàn)了160 TOPS/W的通用智能計(jì)算
2. 分布式廣度光計(jì)算架構(gòu):建立自頂向下的編碼拆分-解碼重構(gòu)機(jī)制,將復(fù)雜智能任務(wù)化繁為簡,拆分為多通道高并行的子任務(wù),構(gòu)建分布式淺層光網(wǎng)絡(luò)對子任務(wù)分而治之,突破物理器件多層深度級(jí)聯(lián)的固有計(jì)算誤差
ps: 基于當(dāng)前認(rèn)識(shí),光的干涉和衍射自然地具有傅里葉變換等電學(xué)需要復(fù)雜電路來實(shí)現(xiàn)的功能,所以個(gè)人對光通信深懷期待.