在人工神經(jīng)網(wǎng)絡(luò)中，張量作為多維數(shù)組，在數(shù)據(jù)結(jié)構(gòu)中扮演著核心角色。近年來，隨著深度學(xué)習(xí)領(lǐng)域的蓬勃發(fā)展和生成式人工智能技術(shù)的興起，神經(jīng)網(wǎng)絡(luò)模型的復(fù)雜度持續(xù)攀升，模型參數(shù)量更是呈現(xiàn)出爆炸式的增長態(tài)勢。然而，面對龐大的張量計(jì)算需求，傳統(tǒng)的存儲和處理分立的電子計(jì)算硬件面臨計(jì)算延遲大、功耗高等問題，從而成為了制約人工智能領(lǐng)域快速進(jìn)步的一大瓶頸。

光計(jì)算作為一種新興的計(jì)算技術(shù)，具有大帶寬、低延遲、低功耗等獨(dú)特優(yōu)勢，展現(xiàn)出克服傳統(tǒng)電子計(jì)算瓶頸的巨大潛力，為未來的高性能計(jì)算提供了全新的解決方案。傳統(tǒng)的光計(jì)算架構(gòu)往往依賴于光學(xué)元件陣列（如馬赫曾德爾干涉儀陣列或者微環(huán)諧振器陣列等）來執(zhí)行矩陣和張量計(jì)算，存在算力密度低、調(diào)控復(fù)雜等問題，從而極大限制了光計(jì)算的算力性能。此外，高速光計(jì)算與低速電計(jì)算之間存在嚴(yán)重的速度失配問題，并且需要使用高速模數(shù)/數(shù)模轉(zhuǎn)換器進(jìn)行數(shù)據(jù)轉(zhuǎn)換，從而帶來嚴(yán)重的功耗問題。

中國科學(xué)院半導(dǎo)體研究所李明研究員團(tuán)隊(duì)提出了一種新型的光學(xué)張量處理單元（OTPU，圖1），該OTPU使用無需熱調(diào)諧的微環(huán)諧振器作為核心單元，基于波分復(fù)用技術(shù)通過波長調(diào)諧和調(diào)制器偏置點(diǎn)改變實(shí)現(xiàn)實(shí)數(shù)域權(quán)重調(diào)整，實(shí)現(xiàn)了34.04 TOPS/mm² 的超高算力密度（圖2），為高算力光計(jì)算實(shí)現(xiàn)探索了一種全新的技術(shù)路徑。該方案通過引入光波/微波多域復(fù)用技術(shù)有效擴(kuò)展了數(shù)據(jù)輸入維度，從而實(shí)現(xiàn)光學(xué)張量運(yùn)算，提高了信息訪問的靈活度，降低了對高速模數(shù)/數(shù)模轉(zhuǎn)換器的依賴。該研究成果展示了光計(jì)算在高性能、高維數(shù)據(jù)處理方面的巨大潛力，為人工智能和數(shù)據(jù)科學(xué)中的張量計(jì)算提供了一種全新的解決方案。

圖片:W020250107534858397984 (1).png

圖1.光學(xué)張量處理單元

圖片:W020250107534858663830 (1).png

圖2.（a）處理單元實(shí)物圖（b）顯微鏡照片

相關(guān)成果以“High-integrated photonic tensor core utilizing high-dimensional lightwave and microwave multidomain multiplexing”為題在《光：科學(xué)與應(yīng)用》（Light: Science & Applications）上發(fā)表。半導(dǎo)體所李明研究員、石暖暖副研究員為共同通訊作者，孟祥彥博士后為第一作者。

該工作得到國家自然科學(xué)基金、中國科學(xué)院青年創(chuàng)新促進(jìn)會(huì)、中國科學(xué)院國際合作項(xiàng)目和北京市自然科學(xué)基金資助。

論文鏈接：https://doi.org/10.1038/s41377-024-01706-9