老司机午夜精品_国产精品高清免费在线_99热点高清无码中文字幕_在线观看国产成人AV天堂_中文字幕国产91

清華大學(xué)在大規(guī)模光電智能計(jì)算方面取得進(jìn)展

發(fā)布:cyqdesign 2023-11-10 23:13 閱讀:878
隨著大模型人工智能技術(shù)的突破與發(fā)展,算法復(fù)雜度劇增,對傳統(tǒng)計(jì)算芯片帶來了算力和功耗的雙重挑戰(zhàn)。近年來,以光計(jì)算為基礎(chǔ)、通過光電融合的方式構(gòu)建光電神經(jīng)網(wǎng)絡(luò)的計(jì)算處理方法已經(jīng)成為國際熱點(diǎn)研究問題,有望實(shí)現(xiàn)計(jì)算性能的顛覆性提升。然而,光電神經(jīng)網(wǎng)絡(luò)的前向數(shù)學(xué)模型由對光場的精準(zhǔn)物理建模得到,計(jì)算復(fù)雜度高、參數(shù)冗余度大;其學(xué)習(xí)機(jī)制沿用人工神經(jīng)網(wǎng)絡(luò)常用的梯度下降算法,面向大規(guī)模光電神經(jīng)網(wǎng)絡(luò)時優(yōu)化速度慢、資源消耗高、收斂效果差。因此,現(xiàn)有學(xué)習(xí)架構(gòu)僅能支撐小規(guī)模光電神經(jīng)網(wǎng)絡(luò)的訓(xùn)練,其網(wǎng)絡(luò)容量和特征捕獲能力不足以有效處理ImageNet等大型復(fù)雜數(shù)據(jù)集。 |#sY(1  
EUby QL  
近日,清華大學(xué)電子工程系方璐副教授課題組提出了面向大規(guī)模光電智能計(jì)算的“光學(xué)-人工雙神經(jīng)元學(xué)習(xí)架構(gòu)(DuAl-Neuron opTical-artificial lEarning,DANTE)”。其中光學(xué)神經(jīng)元精準(zhǔn)建模光場計(jì)算過程,人工神經(jīng)元以輕量映射函數(shù)建立跳躍連接助力梯度傳播,全局人工神經(jīng)元與局部光學(xué)神經(jīng)元以交替學(xué)習(xí)的機(jī)制進(jìn)行迭代優(yōu)化,在確保學(xué)習(xí)有效性的同時,大大降低了訓(xùn)練的時空復(fù)雜度,使得訓(xùn)練更大更深的光電神經(jīng)網(wǎng)絡(luò)成為可能。DANTE突破了大規(guī)模光電神經(jīng)網(wǎng)絡(luò)物理建模復(fù)雜、參數(shù)優(yōu)化困難等桎梏,網(wǎng)絡(luò)規(guī)模提升一至兩個數(shù)量級,訓(xùn)練學(xué)習(xí)速度提升兩個數(shù)量級。 zFr#j~L"  
M%OUkcWCk  
-ZoAbp$