九峰山實(shí)驗(yàn)室與中科院微電子所、復(fù)旦大學(xué)團(tuán)隊(duì)合作,在用于高度可擴(kuò)展集成神經(jīng)形態(tài)電路的高能效全自旋突觸和神經(jīng)元器件硬件實(shí)現(xiàn)方面取得了重要突破。相關(guān)研究成果以“Domain wall magnetic tunnel junction-based artificial synapses and neurons for all-spin neuromorphic hardware”為題在線發(fā)表在國際頂級期刊Nature Communications上,并被選為"Editors' Highlight Featured Article"。湖北九峰山實(shí)驗(yàn)室資深專家Wang Dandan博士、中國科學(xué)院微電子所邢國忠研究員、中國科學(xué)院微電子所/復(fù)旦大學(xué)芯片與系統(tǒng)前沿技術(shù)研究院劉明院士為論文共同通訊作者。
文章摘要:神經(jīng)形態(tài)計(jì)算是一種新興信息處理計(jì)算范式,在人工智能和大數(shù)據(jù)分析應(yīng)用中展現(xiàn)出巨大的潛力。與傳統(tǒng)的基于馮·諾依曼架構(gòu)計(jì)算相比,具有更出色的性能,因此引起了國內(nèi)外廣泛關(guān)注。模仿人腦生物結(jié)構(gòu)和工作原理的深度神經(jīng)網(wǎng)絡(luò)已被廣泛應(yīng)用于圖像、語音和視頻識別以及數(shù)據(jù)分類等各個(gè)領(lǐng)域,在需要訓(xùn)練巨大數(shù)據(jù)集的應(yīng)用中顯示出優(yōu)越的優(yōu)勢。然而,面向構(gòu)建脈沖神經(jīng)網(wǎng)絡(luò)的神經(jīng)形態(tài)硬件的研究處于探索階段?;趥鹘y(tǒng)CMOS的神經(jīng)形態(tài)芯片通常需要數(shù)十個(gè)晶體管和若干電容?;谛滦痛鎯ζ鞯刃略砩窠?jīng)元器件亦需集成額外電容或復(fù)位操作電路, 且耐久性受限, 難以滿足高頻神經(jīng)元器件的信息整合處理需求。自旋電子器件通常具有高能效、高耐久性及更豐富的物理特性,成為神經(jīng)形態(tài)硬件開發(fā)最具潛質(zhì)的載體之一。
深度神經(jīng)網(wǎng)絡(luò)由多個(gè)層組成并通過具有可更新權(quán)重的突觸連接。網(wǎng)絡(luò)會先計(jì)算輸入和相應(yīng)突觸權(quán)重的乘和累加,然后應(yīng)用激活函數(shù)得到該層的輸出,作為下一層的輸入。具有線性權(quán)重調(diào)制的突觸和具有非線性激活函數(shù)的神經(jīng)元是構(gòu)建神經(jīng)網(wǎng)絡(luò)最重要的基本元素。高效可靠的仿生突觸和神經(jīng)元器件的緊湊型硬件實(shí)現(xiàn)是制約神經(jīng)形態(tài)芯片開發(fā)的主要挑戰(zhàn)。
本項(xiàng)研究將基于新興非易失性存儲器的神經(jīng)形態(tài)器件硬件實(shí)現(xiàn)與傳統(tǒng)的互補(bǔ)金屬氧化物半導(dǎo)體(CMOS)技術(shù)相結(jié)合,可以提供顯著的性能優(yōu)勢,包括非易失性、可擴(kuò)展性、直接映射突觸權(quán)重等優(yōu)點(diǎn),以及促進(jìn)神經(jīng)網(wǎng)絡(luò)每一層所需的數(shù)據(jù)閾值、轉(zhuǎn)換和微調(diào)等功能。
阻變存儲器(RRAM)、鐵電存儲器(FeRAM)、相變存儲器(PCM)、閃存和磁隨機(jī)存儲器(MRAM)等不同類型的非易失性存儲器都顯示出對神經(jīng)網(wǎng)絡(luò)應(yīng)用的前景,但同時(shí)也帶來了與非線性、能效、面積開銷和可靠性相關(guān)的固有挑戰(zhàn)。這些挑戰(zhàn)使得定制非易失性存儲器變得困難,導(dǎo)致學(xué)習(xí)準(zhǔn)確性的損失,并阻礙實(shí)現(xiàn)特定的突觸或非線性激活功能,對神經(jīng)網(wǎng)絡(luò)應(yīng)用的實(shí)際實(shí)現(xiàn)提出了重大挑戰(zhàn)。
因此當(dāng)前迫切需要探索不同存儲器特征之間的獨(dú)特性以及與CMOS的協(xié)同集成,以在神經(jīng)形態(tài)計(jì)算中實(shí)現(xiàn)最佳性能。近年來,具有豐富物理特性、可重復(fù)和可控磁化動力學(xué)的自旋電子器件,正顯示出在模擬突觸和各種類型神經(jīng)元功能方面的巨大潛力。
研究團(tuán)隊(duì)利用高分辨/掃描透射電子顯微鏡(HRTEM/STEM)和能量色散X射線譜(EDS)等檢測手段, 深入分析了疇壁磁隧道結(jié)(DW-MTJ)器件的微觀結(jié)構(gòu)特征, 包括原子級晶體結(jié)構(gòu)、界面晶格缺陷以及各功能層的成分分布。這些系統(tǒng)微觀結(jié)構(gòu)分析揭示了材料及界面質(zhì)量對器件整體性能的影響規(guī)律。具體來說, 團(tuán)隊(duì)研究發(fā)現(xiàn)界面晶格失配、缺陷等結(jié)構(gòu)缺陷會對DW-MTJ器件的磁輸運(yùn)特性產(chǎn)生顯著影響, 而不同功能層的成分組成和分布也會影響器件的電學(xué)穩(wěn)定性和可靠性。通過優(yōu)化材料生長工藝和界面工藝, 以及將微觀結(jié)構(gòu)表征與宏觀性能進(jìn)行關(guān)聯(lián)分析,可為DW-MTJ器件性能的持續(xù)優(yōu)化和可靠性提升提供指導(dǎo)。
進(jìn)一步,基于具有獨(dú)特磁疇壁動力學(xué)特性MTJs可以通過全電學(xué)驅(qū)動方法精確操作,由于MTJ磁電阻和可編程式激勵(lì)之間固有的線性關(guān)系,使其成為應(yīng)用于神經(jīng)網(wǎng)絡(luò)中線性權(quán)重更新和非線性激活函數(shù)的理想候選者。團(tuán)隊(duì)利用自旋-軌道耦合和界面 Dzyaloshinskii-Moriya interaction協(xié)同效應(yīng), 實(shí)現(xiàn)了可編程的多態(tài)突觸器件且具有高可靠性。系統(tǒng)的第一性原理計(jì)算證實(shí),5d-3d原子間距的減小增強(qiáng)了Dzyaloshinskii-Moriya反對稱相互作用,結(jié)合高能效自旋軌道矩(SOT)全電控磁疇壁驅(qū)動,可實(shí)現(xiàn)穩(wěn)定可靠的疇壁釘扎與退釘扎。
研究人員展示了一種具有S形激活功能的自旋神經(jīng)元,能夠?qū)崿F(xiàn)高達(dá)20MHz的高操作頻率和508fJ/操作的低能耗。此外,團(tuán)隊(duì)還提出了一種具有緊湊的S形單元面積和低功耗的神經(jīng)元電路設(shè)計(jì),并進(jìn)行了驗(yàn)證實(shí)驗(yàn)。疇壁磁隧道結(jié)在全自旋神經(jīng)形態(tài)計(jì)算硬件開發(fā)中展現(xiàn)出巨大潛力,為高能效和可擴(kuò)展的神經(jīng)網(wǎng)絡(luò)架構(gòu)提供了硬件開發(fā)的新路徑。
總之,神經(jīng)形態(tài)計(jì)算憑借其出色的性能和廣泛應(yīng)用前景,引起了眾多研究者的廣泛關(guān)注。中國科學(xué)家在該領(lǐng)域取得的重要突破,為進(jìn)一步推動神經(jīng)形態(tài)計(jì)算的發(fā)展奠定了堅(jiān)實(shí)基礎(chǔ)。未來將繼續(xù)探索更多創(chuàng)新性的解決方案,以推動神經(jīng)形態(tài)計(jì)算硬件向更高效、可靠和可擴(kuò)展的方向發(fā)展。