7月18日，第五屆RISC-V中國(guó)峰會(huì)在上海舉行，晶心科技總經(jīng)理兼技術(shù)長(zhǎng)蘇泓萌在人工智能分論壇上發(fā)表了題為《基于RISC-V處理器的大型AI/ML SoC架構(gòu)創(chuàng)新》的演講，分享了晶心科技在該領(lǐng)域的最新成果與未來(lái)布局。

晶心科技基于RISC-V的Meta架構(gòu)已在多個(gè)AI加速器場(chǎng)景中落地應(yīng)用。例如，在服務(wù)器級(jí)AI SoC領(lǐng)域，基于SRAM的計(jì)算內(nèi)存加速器通過(guò)Andes處理器優(yōu)化數(shù)據(jù)流，大幅提升了矩陣運(yùn)算效率。在光子學(xué)AI加速器方面，晶心科技與LIGHTELLIGENCE、后摩智能等企業(yè)合作，借助RISC-V的低延遲特性，突破了傳統(tǒng)電子計(jì)算的帶寬瓶頸。

此外，在邊緣與云端協(xié)同的AI加速器中，晶心科技通過(guò)多核集群架構(gòu)實(shí)現(xiàn)了算力與能效的平衡，為ADAS、智能監(jiān)控等領(lǐng)域提供了定制化解決方案。蘇泓萌指出，RISC-V的靈活性使得晶心科技能夠快速適配不同客戶的需求，無(wú)論是服務(wù)器級(jí)AI芯片還是邊緣端低功耗設(shè)備。

在Meta MTIA（Meta Training and Inference Accelerators）架構(gòu)中，Andes處理器通過(guò)擴(kuò)展自定義指令（如ACE-RVV和ACE標(biāo)量），與矩陣乘法加速器（AMM）協(xié)同工作，顯著提升了AI SoC的性能。

多核并行架構(gòu)與處理器創(chuàng)新

在大型AI/ML SoC設(shè)計(jì)中，晶心科技采用了“Sea of PE’s”（Processing Elements）設(shè)計(jì)，通過(guò)Mesh互聯(lián)的多核集群實(shí)現(xiàn)高效計(jì)算。每個(gè)PE單元內(nèi)集成了標(biāo)量、向量和矩陣運(yùn)算能力，支持從基礎(chǔ)標(biāo)量處理到復(fù)雜矩陣乘法的全場(chǎng)景需求。例如，在AI推理中，PE單元可通過(guò)向量擴(kuò)展（RVV）加速GEMM（通用矩陣乘法），并通過(guò)自定義指令（ACE）優(yōu)化Softmax、ReLU等激活函數(shù)。

晶心科技最新推出的AX46MP(V)計(jì)算/控制處理器進(jìn)一步強(qiáng)化了這一能力。該處理器基于AX45MPV的成功經(jīng)驗(yàn)，升級(jí)至8核集群架構(gòu)，支持1024位VLEN/DLEN（向量長(zhǎng)度），并引入雙發(fā)射機(jī)制（雙向量/標(biāo)量指令），顯著提升了吞吐量。

此外，在內(nèi)存優(yōu)化方面，AX46MP(V)采用了雙加載/單存儲(chǔ)設(shè)計(jì)、私有L2緩存（64KB-512KB，8路關(guān)聯(lián)）和HVM（High-speed Vector Memory）接口的多請(qǐng)求并行與亂序數(shù)據(jù)返回，有效解決了內(nèi)存帶寬瓶頸，為AI模型訓(xùn)練和推理提供了高效的數(shù)據(jù)流支持。

矩陣加速與端到端解決方案

晶心科技的AMM矩陣加速技術(shù)針對(duì)AI核心的矩陣乘法運(yùn)算進(jìn)行了優(yōu)化。該方案通過(guò)PE（處理單元）架構(gòu)支持GEMM、GEMV等操作，并加速Softmax、Sigmoid等特殊函數(shù)，同時(shí)兼容數(shù)據(jù)并行計(jì)算模式。

AMM與RVV的深度整合，使得無(wú)需專用加速器即可實(shí)現(xiàn)高效的矩陣運(yùn)算，為服務(wù)器級(jí)AI SoC提供了更靈活的解決方案。AndesAIRE端到端AI/ML解決方案覆蓋了從模型開(kāi)發(fā)到部署的全流程。

該方案兼容PyTorch、TensorFlow Lite等主流框架，并通過(guò)XNNPACK、MLIR、LLVM等開(kāi)源工具鏈實(shí)現(xiàn)跨平臺(tái)優(yōu)化。通過(guò)ACE（Automated Custom Extensions）技術(shù)，開(kāi)發(fā)者可快速將算法轉(zhuǎn)化為硬件指令，例如在TinyLLaMA 1.1B模型中，僅依賴RVV向量擴(kuò)展即可實(shí)現(xiàn)26.7倍的性能加速。

此外，結(jié)合AnDLA I350加速器與SoC硬連線引擎，AndesAIRE支持從FP8到BF16的混合精度計(jì)算，滿足LLM（大語(yǔ)言模型）的多樣化需求。

RISC-V生態(tài)共建與未來(lái)展望

蘇泓萌強(qiáng)調(diào)，RISC-V的成功離不開(kāi)生態(tài)協(xié)作。過(guò)去六年，晶心科技持續(xù)擴(kuò)展RISC-V AI/ML處理器產(chǎn)品線，并與RISE、RISC-V國(guó)際基金會(huì)等組織深度合作，推動(dòng)XNNPACK、MLIR等軟件工具的標(biāo)準(zhǔn)化。根據(jù)SHD集團(tuán)數(shù)據(jù)，晶心科技在過(guò)去兩年穩(wěn)居RISC-V IP市場(chǎng)份額前列，其AX系列處理器已廣泛應(yīng)用于服務(wù)器、汽車(chē)、工業(yè)等領(lǐng)域。

展望未來(lái)，蘇泓萌呼吁更多開(kāi)發(fā)者加入RISC-V生態(tài)：“AI/ML的快速發(fā)展需要開(kāi)放架構(gòu)的支撐。無(wú)論是定制指令開(kāi)發(fā)，還是軟件棧優(yōu)化，RISC-V都能提供最靈活的解決方案?！本目萍紝⒗^續(xù)致力于推動(dòng)RISC-V在AI/ML領(lǐng)域的應(yīng)用與發(fā)展，為全球開(kāi)發(fā)者提供更強(qiáng)大的技術(shù)支持與創(chuàng)新平臺(tái)。