近日,電子科技大學(xué)腦器交互研究團(tuán)隊(duì)(中古腦器交互實(shí)驗(yàn)室、生命科學(xué)與技術(shù)學(xué)院)在國(guó)際人工智能頂級(jí)期刊《IEEE Transactions on Neural Networks and Learning Systems》(IEEE T-NNLS)再次發(fā)表系列論文,該團(tuán)隊(duì)聚焦于類腦計(jì)算與脈沖神經(jīng)網(wǎng)絡(luò)(Spiking Neural Networks,SNNs)研究的高水平長(zhǎng)文,本研究的第一署名單位為電子科技大學(xué),團(tuán)隊(duì)博士研究生蔡吳缺為第一作者,郭大慶教授、堯德中教授為共同通訊作者。該項(xiàng)研究受到國(guó)家重點(diǎn)研發(fā)計(jì)劃、科技創(chuàng)新2030-“腦科學(xué)與類腦研究”重大項(xiàng)目、四川省科技計(jì)劃等科研項(xiàng)目的資助。
第一篇論文《A Spatial–Channel–Temporal-Fused Attention for Spiking Neural Networks》發(fā)表于T-NNLS 2024年第10期,提出一種融合空間、通道與時(shí)間維度的注意力機(jī)制,顯著提升了SNN在復(fù)雜視覺(jué)場(chǎng)景中的建模能力與表示精度。該方法首次實(shí)現(xiàn)了SNN中多維注意力的協(xié)同優(yōu)化,有效緩解了信息瓶頸與資源冗余問(wèn)題,在多個(gè)類腦視覺(jué)基準(zhǔn)上取得了領(lǐng)先表現(xiàn)。
最新接收的論文《Robust Spatiotemporal Prototype Learning for Spiking Neural Networks》進(jìn)一步推動(dòng)了SNN在原型學(xué)習(xí)與開放集識(shí)別方向的深入研究。針對(duì)當(dāng)前SNN中廣泛采用的速率編碼策略在時(shí)序分辨能力和表征魯棒性方面的不足,研究團(tuán)隊(duì)提出了一種高魯棒性的時(shí)空原型學(xué)習(xí)(Spatiotemporal Prototype Learning, STPL)框架。該方法引入了可學(xué)習(xí)的二值化時(shí)空原型,實(shí)現(xiàn)了對(duì)脈沖神經(jīng)活動(dòng)在時(shí)空特征層面的聯(lián)合對(duì)齊,從而顯著提升了模型對(duì)復(fù)雜樣本邊界及未知類別的判別能力(如圖1所示)。團(tuán)隊(duì)進(jìn)一步構(gòu)建了原型引導(dǎo)的表征空間,并提出任務(wù)中心輔助的原型調(diào)節(jié)策略,有效增強(qiáng)了類內(nèi)一致性與類間分離性。同時(shí),設(shè)計(jì)的魯棒性損失函數(shù)提升了模型在多種噪聲擾動(dòng)與開放集條件下的泛化性能。實(shí)驗(yàn)結(jié)果表明,該方法在多個(gè)主流數(shù)據(jù)集(如DVS Gesture、CIFAR100和ImageNet)及復(fù)雜任務(wù)(包括開放集識(shí)別、情緒識(shí)別與目標(biāo)檢測(cè))中均展現(xiàn)出領(lǐng)先性能,尤其在小樣本、高噪聲等挑戰(zhàn)場(chǎng)景下表現(xiàn)出優(yōu)越的適應(yīng)性與穩(wěn)定性。
圖1 IEEE T-NNLS文章所提STPL框架
IEEE Transactions on Neural Networks and Learning Systems》(IEEE T-NNLS)由美國(guó)電氣和電子工程師協(xié)會(huì)(IEEE)于1990年創(chuàng)辦,旨在出版神經(jīng)網(wǎng)絡(luò)和學(xué)習(xí)系統(tǒng)方面的理論、設(shè)計(jì)和應(yīng)用的技術(shù)性文章,是人工智能、機(jī)器學(xué)習(xí)、模式識(shí)別、機(jī)器視覺(jué)等多個(gè)研究領(lǐng)域的國(guó)際頂級(jí)期刊,也是中國(guó)科學(xué)院計(jì)算機(jī)科學(xué)領(lǐng)域Top期刊。
腦器交互(Brain-Apparatus Communications)團(tuán)隊(duì)是中國(guó)-古巴神經(jīng)技術(shù)與腦器交互“一帶一路”聯(lián)合實(shí)驗(yàn)室(神經(jīng)信息教育部重點(diǎn)實(shí)驗(yàn)室)和生命科學(xué)與技術(shù)學(xué)院的最主要的科研團(tuán)隊(duì)之一(https://www.neuro.uestc.edu.cn/keyan1),帶頭人為堯德中教授,團(tuán)隊(duì)圍繞腦器交互問(wèn)題,著力神經(jīng)信息檢測(cè)、分析技術(shù)的創(chuàng)新發(fā)展,以及新技術(shù)在腦功能、腦疾病的研究與調(diào)控中的探索應(yīng)用。近年來(lái),該團(tuán)隊(duì)先后承擔(dān)了包括科技創(chuàng)新2030 “腦科學(xué)與類腦智能”重大項(xiàng)目、國(guó)家自然科學(xué)基金重點(diǎn)項(xiàng)目、863項(xiàng)目、973課題、重大儀器專項(xiàng)課題在內(nèi)的重大、重點(diǎn)項(xiàng)目20多項(xiàng)。在國(guó)際重要學(xué)術(shù)刊物發(fā)表SCI收錄論文300余篇,申請(qǐng)國(guó)家專利20余項(xiàng),獲得黃家駟生物醫(yī)學(xué)工程一等獎(jiǎng)、教育部自然科學(xué)一等獎(jiǎng)、國(guó)際腦電圖與臨床神經(jīng)科學(xué)學(xué)會(huì)Roy John Award等多項(xiàng)獎(jiǎng)項(xiàng)。腦器交互團(tuán)隊(duì)持續(xù)以國(guó)家需求為指引,在科學(xué)研究、人才培養(yǎng)、國(guó)際合作和成果轉(zhuǎn)化等方面作出應(yīng)有貢獻(xiàn)。