人工智能(AI)硬件在邊緣計(jì)算領(lǐng)域因其低延遲、高能效和強(qiáng)隱私保護(hù)等特性獲得了廣泛關(guān)注。在資源受限的邊緣設(shè)備上部署AI系統(tǒng)面臨雙重挑戰(zhàn)：既要滿足嚴(yán)格的功耗限制，又要提供足夠的計(jì)算并行度以保證實(shí)時(shí)性能?；谧枳兇鎯?chǔ)器(RRAM)的存算一體架構(gòu)和近閾值計(jì)算技術(shù)作為兩種前沿高效計(jì)算范式，在開發(fā)高能效、高并行AI硬件方面展現(xiàn)出巨大潛力。然而，工藝波動(dòng)問題一直制約著這兩種技術(shù)的大規(guī)模應(yīng)用，同時(shí)如何有效整合這兩種技術(shù)以開發(fā)低功耗、高并行的AI硬件仍有待深入探索。

針對(duì)這些挑戰(zhàn)，中國(guó)科學(xué)院微電子研究所集成電路制造技術(shù)全國(guó)重點(diǎn)實(shí)驗(yàn)室的研究團(tuán)隊(duì)成功設(shè)計(jì)并實(shí)現(xiàn)了一款創(chuàng)新性的近閾值RRAM存算一體芯片。研究團(tuán)隊(duì)采用雙晶體管單阻變存儲(chǔ)器(2T1R)單元結(jié)構(gòu)，巧妙地將RRAM的阻變特性轉(zhuǎn)化為閾值電壓調(diào)控特性，并提出了RRAM-CMOS閾值電壓失配抵消技術(shù)，有效解決了長(zhǎng)期困擾這兩種計(jì)算范式的工藝波動(dòng)問題。為滿足神經(jīng)網(wǎng)絡(luò)多比特乘累加運(yùn)算需求，團(tuán)隊(duì)創(chuàng)新性地提出了基于電荷堆疊的電荷域計(jì)算技術(shù)，開發(fā)了集采樣、加權(quán)與量化于一體的模數(shù)轉(zhuǎn)換電路，大幅降低了外圍電路的功耗與面積開銷。此外，團(tuán)隊(duì)在多核存算一體系統(tǒng)中引入了核間混合精度控制技術(shù)，通過分析神經(jīng)網(wǎng)絡(luò)各層的數(shù)據(jù)特征，為每個(gè)計(jì)算核心配置最優(yōu)的累加與量化方法，實(shí)現(xiàn)了任務(wù)級(jí)推理功耗的精細(xì)優(yōu)化。

基于這些創(chuàng)新技術(shù)，研究團(tuán)隊(duì)成功流片并驗(yàn)證了一款具有16個(gè)計(jì)算核心的近閾值RRAM存算一體芯片。該芯片能夠?qū)崿F(xiàn)256通道并行模擬計(jì)算，平均相對(duì)標(biāo)準(zhǔn)差僅為2.4%，計(jì)算能效達(dá)到驚人的55.21至88.51 TOPS/W。這一研究成果為邊緣AI硬件的發(fā)展提供了全新思路和技術(shù)路徑。

該研究成果以"A near-threshold memristive computing-in-memory engine for edge intelligence"為題發(fā)表在《Nature Communications》期刊上。微電子所博士畢業(yè)生王琳方博士，微電子所博士研究生李偉增及周治道為共同第一作者，微電子所竇春萌研究員擔(dān)任通訊作者。研究工作得到了復(fù)旦大學(xué)、中國(guó)科學(xué)院計(jì)算技術(shù)研究所、中國(guó)科學(xué)院軟件研究所等多家機(jī)構(gòu)的大力支持與協(xié)作。

圖1. (a)芯片顯微照片、關(guān)鍵結(jié)構(gòu)和近閾值計(jì)算方案；(b)RRAM-CMOS閾值電壓失配抵消技術(shù)；(c)采樣、加權(quán)與量化一體化模數(shù)轉(zhuǎn)換技術(shù)；(d)核間混合精度控制技術(shù)。