受DeepSeek等創(chuàng)新技術(shù)推動(dòng)，今年AI在邊緣計(jì)算領(lǐng)域的爆發(fā)增長(zhǎng)態(tài)勢(shì)已初見端倪。在此節(jié)點(diǎn)之下，Arm日前針對(duì)物聯(lián)網(wǎng)市場(chǎng)推出全球首個(gè)基于Armv9架構(gòu)的邊緣AI計(jì)算平臺(tái)。該計(jì)算平臺(tái)支持運(yùn)行超10億參數(shù)的端側(cè)AI模型，這無(wú)疑是為物聯(lián)網(wǎng)芯片性能的提升按下了加速鍵。正如Arm高級(jí)副總裁兼物聯(lián)網(wǎng)事業(yè)部總經(jīng)理 Paul Williamson所言：“AI的革新已不再局限于云端。隨著世界的互聯(lián)和智能化水平的日益提升，從智慧城市到工業(yè)自動(dòng)化，在邊緣側(cè)處理AI工作負(fù)載不僅帶來(lái)顯著的優(yōu)勢(shì)，其必要性更是不可或缺?！?/p>

邊緣AI計(jì)算新引擎

據(jù)了解，此次Arm推出的Armv9邊緣AI計(jì)算平臺(tái)是以全新的Cortex-A320 CPU和支持Transformer網(wǎng)絡(luò)的Ethos-U85 NPU為核心。Cortex-A320是Arm首個(gè)專為物聯(lián)網(wǎng)優(yōu)化，基于Armv9架構(gòu)的超高能效CPU，專為功耗優(yōu)化需求較高的設(shè)備設(shè)計(jì)。Ethos-U85 NPU則針對(duì)Transformer網(wǎng)絡(luò)進(jìn)行了原生支持，進(jìn)一步提升了平臺(tái)的AI加速能力。

Arm物聯(lián)網(wǎng)事業(yè)部業(yè)務(wù)拓展副總裁馬健表示，該邊緣AI計(jì)算平臺(tái)并非CPU和AI加速器的簡(jiǎn)單堆疊，而是實(shí)現(xiàn)了深度配合，讓CPU和NPU相得益彰。Cortex-A320能夠?yàn)镋thos-U85提供更大的內(nèi)存容量和更高的帶寬，讓大模型在Ethos-U85上流暢運(yùn)行；任何開發(fā)者們不希望在Ethos-U85上運(yùn)行的AI操作，可以回退到Cortex-A320，利用其Neon/SVE2引擎更靈活有效地在CPU上執(zhí)行，確保工作負(fù)載在最合適的位置運(yùn)行。

相較于去年基于Cortex-M85搭配Ethos-U85的平臺(tái)，全新邊緣Aij計(jì)算平臺(tái)提升了八倍的 ML 計(jì)算性能，賦能邊緣AI設(shè)備輕松運(yùn)行超過(guò)10億參數(shù)的大模型，助力大模型與生成式AI在物聯(lián)網(wǎng)領(lǐng)域的落地。同時(shí)，Ethos-U85驅(qū)動(dòng)程序已進(jìn)行更新，使得Cortex-A320能夠直接驅(qū)動(dòng)Ethos-U85，無(wú)需額外搭載Cortex-M。這一更新降低了延遲，并使 Arm 的合作伙伴可以去掉用于驅(qū)動(dòng)AI加速器的額外控制器，從而降低成本和系統(tǒng)復(fù)雜性。

Cortex-A320和Ethos-U85的組合，將成為智能物聯(lián)網(wǎng)應(yīng)用領(lǐng)域運(yùn)行大模型及需要更高軟件靈活性的邊緣AI任務(wù)的理想選擇。

將Armv9架構(gòu)引入物聯(lián)網(wǎng)

此前Arm已將Armv9架構(gòu)引入到了基礎(chǔ)設(shè)施、智能終端以及智能汽車領(lǐng)域，隨著此次針對(duì)物聯(lián)網(wǎng)領(lǐng)域的Armv9邊緣AI計(jì)算平臺(tái)的推出，基于Armv9架構(gòu)的處理器已經(jīng)全面覆蓋“云-邊-端”。

全新發(fā)布的Cortex-A320作為Armv9邊緣AI計(jì)算平臺(tái)的核心組件，是Arm首個(gè)專為物聯(lián)網(wǎng)應(yīng)用優(yōu)化、基于Armv9架構(gòu)的超高能效CPU。

在ML性能方面，Cortex-A320相較于前代產(chǎn)品Cortex-A35提升了高達(dá)10倍的ML計(jì)算能力。此外，其能效比較Cortex-A520提升了50%。在標(biāo)量計(jì)算性能方面，Cortex-A320的性能比前代Cortex-A35提高了30%，帶來(lái)了更強(qiáng)的通用計(jì)算能力。

Cortex-A320充分利用了Armv9增強(qiáng)的AI計(jì)算特性和安全性。AI計(jì)算性能方面，Armv9架構(gòu)的特性使得Cortex-A320的AI計(jì)算能力大幅增強(qiáng)。比如，增強(qiáng)的Neon和可伸縮向量擴(kuò)展(SVE2)技術(shù)，可提供更高效的ML計(jì)算能力；支持如BFloat16等新數(shù)據(jù)類型，提高AI計(jì)算的精度和能效；新增的矩陣乘法指令優(yōu)化了AI和ML計(jì)算性能，加速神經(jīng)網(wǎng)絡(luò)推理和訓(xùn)練任務(wù)。

安全性是物聯(lián)網(wǎng)用戶除性能之外的一大關(guān)注重點(diǎn)。馬健提到：“隨著邊緣應(yīng)用場(chǎng)景變得更加復(fù)雜，以及設(shè)備端軟件及數(shù)據(jù)價(jià)值的提升，安全性比以往任何時(shí)候都更加重要?！?/p>

Cortex-A320引入了一系列先進(jìn)的Armv9安全特性，為物聯(lián)網(wǎng)設(shè)備筑牢安全防線。Secure EL2增強(qiáng)了TrustZone內(nèi)部的隔離性，支持更安全地運(yùn)行軟件容器。指針驗(yàn)證/分支目標(biāo)識(shí)別（PACBTI）可有效緩解跳轉(zhuǎn)和返回編程中的指針安全隱患。而內(nèi)存標(biāo)記擴(kuò)展（MTE）則通過(guò)內(nèi)存標(biāo)記機(jī)制，使黑客更難利用漏洞進(jìn)行攻擊，提高整體系統(tǒng)安全性。

持續(xù)推進(jìn)邊緣AI發(fā)展

在DeepSeek等創(chuàng)新技術(shù)的推動(dòng)下，今年AI在邊緣計(jì)算領(lǐng)域的爆發(fā)增長(zhǎng)態(tài)勢(shì)已初見端倪。同時(shí)，Arm在今年伊始即推出全球首個(gè)Armv9邊緣AI計(jì)算平臺(tái)，彰顯了其在不斷推動(dòng)邊緣智能創(chuàng)新方面堅(jiān)定且迅速的步伐。

針對(duì)物聯(lián)網(wǎng)的碎片化挑戰(zhàn)，Arm在過(guò)去幾年中在IoT標(biāo)準(zhǔn)化方面，推出了Arm SystemReady項(xiàng)目，希望在不同的IoT平臺(tái)上可以支持各種主流軟件和操作系統(tǒng)，確保“開機(jī)即用”。目前全球范圍內(nèi)已經(jīng)累計(jì)頒發(fā)了超過(guò)了160張認(rèn)證。

此外，Arm也與中國(guó)市場(chǎng)的本地認(rèn)證機(jī)構(gòu)進(jìn)行了深度合作推動(dòng)PSA Certified認(rèn)證。獲得PSA Certified認(rèn)證后，合作伙伴的產(chǎn)品通過(guò)歐美市場(chǎng)的電子產(chǎn)品認(rèn)證流程將更為順暢，為中國(guó)芯片和電子產(chǎn)品出海提供了一條便捷的通道。截至目前，全球已有101家企業(yè)成功取得PSA Certified認(rèn)證，累計(jì)認(rèn)證數(shù)量達(dá)241項(xiàng)。其中，許多中國(guó)的合作伙伴也通過(guò)了 PSA Certified 認(rèn)證，包括瑞芯微的 RK3588/RK356X 系列芯片、涂鴉智能的 TS24-U 模組等。

通過(guò)軟硬件協(xié)同以及生態(tài)合作伙伴的緊密合作，Arm將助力智能物聯(lián)網(wǎng)市場(chǎng)構(gòu)建更加完善、協(xié)同的邊緣AI生態(tài)系統(tǒng)。

展望未來(lái)，AI的推理與應(yīng)用從云端走向邊緣是AI發(fā)展的大趨勢(shì)，相信Arm全新的邊緣AI計(jì)算平臺(tái)將成為新一輪物聯(lián)網(wǎng)創(chuàng)新的催化劑。