中科院物理所在張量網(wǎng)絡(luò)的微分編程研究中獲進(jìn)展
張量網(wǎng)絡(luò)方法經(jīng)過多年的發(fā)展已經(jīng)成為經(jīng)典統(tǒng)計(jì)、量子多體物理等領(lǐng)域重要的理論和計(jì)算工具。近年來,張量網(wǎng)絡(luò)方法也被應(yīng)用于機(jī)器學(xué)習(xí)問題中。然而,針對張量網(wǎng)絡(luò)的優(yōu)化仍是一個(gè)長期存在的難點(diǎn)。這個(gè)瓶頸阻礙了張量網(wǎng)絡(luò)方法在一系列復(fù)雜問題中的充分應(yīng)用。
最近,中國科學(xué)院物理研究所/北京凝聚態(tài)物理國家研究中心凝聚態(tài)理論與計(jì)算重點(diǎn)實(shí)驗(yàn)室副研究員廖海軍、博士劉金國、副研究員王磊和研究員向濤合作,將機(jī)器學(xué)習(xí)中發(fā)展的“自動(dòng)微分”技術(shù)引入到張量網(wǎng)絡(luò)優(yōu)化領(lǐng)域中,從而克服了這一障礙。借助機(jī)器學(xué)習(xí)領(lǐng)域發(fā)展的微分編程工具,自動(dòng)微分可以直接而準(zhǔn)確地計(jì)算變分能量對于張量參數(shù)的梯度。結(jié)合基于梯度的張量網(wǎng)絡(luò)優(yōu)化方法,可以更準(zhǔn)確和有效地獲得量子多體基態(tài)波函數(shù)的張量網(wǎng)絡(luò)表示。基于這些進(jìn)展,作者得到了二維正方晶格量子海森堡模型最低的變分結(jié)果(如附圖所示),并進(jìn)一步研究了更復(fù)雜的量子磁性問題。 (a)不同方法計(jì)算二維自旋1/2反鐵磁海森堡模型基態(tài)能量的相對誤差的比較;(b) 不同方法計(jì)算交錯(cuò)磁化強(qiáng)度的比較。 這項(xiàng)進(jìn)展為張量網(wǎng)絡(luò)方法更廣泛地應(yīng)用于物理和機(jī)器學(xué)習(xí)問題掃清了一個(gè)障礙。該研究結(jié)果近日發(fā)表在《物理評論X》(Phys. Rev. X)上?稍https://github.com/wangleiphy/tensorgrad獲得開源的程序實(shí)現(xiàn)。上述工作得到國家重點(diǎn)研發(fā)計(jì)劃(2016YFA0302400、2017YFA0302901)、國家自然科學(xué)基金委(11888101, 11774398)和中科院先導(dǎo)專項(xiàng)(XDB28000000)的支持。 論文鏈接:https://journals.aps.org/prx/abstract/10.1103/PhysRevX.9.031041 |