7月4日至7月6日，“以共商促共享 以善治促善智”為主題的2024世界人工智能大會（WAIC 2024）暨人工智能全球治理高級別會議在上海隆重舉行。
作為國內(nèi)領(lǐng)先的智能芯片和基礎(chǔ)算力平臺企業(yè)，愛芯元智在大會上成功舉辦“芯領(lǐng)未來丨智能芯片及多模態(tài)大模型論壇”，論壇以“引領(lǐng)人工智能革新 造就普惠智能生活”為主題，匯聚芯片、大模型、智能制造等領(lǐng)域的專家與意見領(lǐng)袖，共同探討大模型時代的創(chuàng)新機遇及落地成果。
愛芯元智創(chuàng)始人、董事長仇肖莘在主旨演講中表示，在AI發(fā)展從云端向端側(cè)遷移趨勢下，大模型的大規(guī)模落地需要云、邊、端三級緊密結(jié)合，而邊緣側(cè)和端側(cè)結(jié)合的關(guān)鍵在于高能效的邊端AI芯片，更經(jīng)濟、更高效、更環(huán)保則將成為智能芯片的關(guān)鍵。由此，大模型一定程度上進入輕量化時代，將由端云協(xié)同推動高效落地。
“更經(jīng)濟、更高效、更環(huán)?！背葾I芯片關(guān)鍵
隨著大模型在云端訓(xùn)練逐漸趨于成熟，AI正快速向智能手機、PC和車載等邊緣和端側(cè)遷移。仇肖莘表示，智能芯片和多模態(tài)大模型已經(jīng)成為人工智能時代的“黃金組合”。當(dāng)大模型應(yīng)用日益廣泛，更經(jīng)濟、更高效、更環(huán)保將會成為智能芯片的關(guān)鍵詞，而搭載AI處理器的高效推理芯片將是大模型落地更合理的選擇。
愛芯元智創(chuàng)始人、董事長 仇肖莘
然而，在邊緣和端側(cè)應(yīng)用領(lǐng)域，GPGPU或許并非最最優(yōu)架構(gòu)。
仇肖莘進一步表示，“AI芯片一直存在兩種路線，即GPGPU和DSA（Domain Special Architecture，專用領(lǐng)域架構(gòu)處理器）路線。在整個算法或基礎(chǔ)網(wǎng)絡(luò)結(jié)構(gòu)還不穩(wěn)定時，GPGPU的最大優(yōu)勢在于靈活性，可以適應(yīng)各種各樣的算法和訓(xùn)練方式?！钡谶^去一兩年中，卷積網(wǎng)絡(luò)的基礎(chǔ)結(jié)構(gòu)已趨于穩(wěn)定，同時大模型的核心架構(gòu)Transformer基本固定。因此，從運算效率和能耗角度而言，DSA架構(gòu)優(yōu)于GPGPU，尤其是邊緣和端側(cè)的推理芯片。
例如愛芯元智采用DSA架構(gòu)的推理芯片能以更小的算力和功耗，實現(xiàn)與英偉達GPGPU芯片的類似性能。其中，愛芯元智AX650N SoC算力為18TOPs，但在能耗相當(dāng)下，推理性能是英偉達同類100TOPs算力芯片的12倍；若算力相當(dāng)，AX650N的幀率則是其12倍。仇肖莘指出，芯片作為AI基礎(chǔ)設(shè)施的底層架構(gòu)，未來需要更經(jīng)濟、更高效、更環(huán)保。
與此同時，隨著AI正在從數(shù)據(jù)中心構(gòu)筑的云端不斷“下沉”，大模型真正大規(guī)模落地需要云、邊、端三級緊密結(jié)合，而邊緣側(cè)和端側(cè)結(jié)合的關(guān)鍵在于高能效邊端AI芯片。
仇肖莘表示，在推進普惠AI的道路上，愛芯元智基于愛芯智眸AI-ISP和愛芯通元混合精度NPU兩大自研核心技術(shù)，確立了以“AIoT+ADAS”為主的一體兩翼戰(zhàn)略路線，并向邊緣計算、AI推理領(lǐng)域縱深發(fā)展，推動智慧城市、智能loT、智能駕駛等應(yīng)用場景加速落地。
布局全領(lǐng)域算力搶抓AI處理器賽道機遇
在智能時代浪潮下，AI不僅逐漸成為穩(wěn)定可靠的智能輸出基建，而且被視作一場成本驅(qū)動型的生產(chǎn)力革命。愛芯元智聯(lián)合創(chuàng)始人、副總裁劉建偉表示，“AI某種程度上是一種新程序范式，即寫程序?qū)?yīng)的是模型訓(xùn)練，運行程序?qū)?yīng)的模型推理?；谝酝鶖?shù)字化浪潮的積累，AI的編程方式已從規(guī)則驅(qū)動轉(zhuǎn)變?yōu)閿?shù)據(jù)驅(qū)動，而計算是以Tensor（張量）為主?！?/p>
AI計算的基本構(gòu)成是算子，以及在算子之間的數(shù)據(jù)流動（即張量數(shù)據(jù)）。劉建偉稱，“通常CPU處理一維數(shù)據(jù)，GPU處理二三維數(shù)據(jù)，但張量數(shù)據(jù)則涉及三、四、五維甚至更高維的數(shù)據(jù)。由于AI程序的計算密度更高，業(yè)界便需要全新的處理器（NPU）應(yīng)對AI的程序計算。未來，NPU將于CPU、GPU共存，并處理各自最擅長的計算任務(wù)?！?/p>
愛芯元智聯(lián)合創(chuàng)始人、副總裁 劉建偉
為了搶抓AI處理器賽道機遇，愛芯元智2022年便率先推出支持原生Transformer模型的高算力、低功耗NPU AI處理器AX650N，為大模型在邊緣側(cè)、端側(cè)的應(yīng)用提供了有力基礎(chǔ)。
目前，愛芯元智的愛芯通元混合精度NPU的研發(fā)已迭代至第六代，擁有高、中、低三檔算力覆蓋市場，可應(yīng)用于以文搜圖、通用檢測、以圖生文、AI Agent等多個模型場景，其中在智慧城市和輔助駕駛等領(lǐng)域?qū)崿F(xiàn)規(guī)?；慨a(chǎn)以及出貨。該芯片采用多線程異構(gòu)多核設(shè)計，實現(xiàn)了算子、網(wǎng)絡(luò)微結(jié)構(gòu)、數(shù)據(jù)流和內(nèi)存訪問優(yōu)化，并高效支持混合精度算法設(shè)計等。
劉建偉介紹稱，愛芯元智AI處理器的核心就是算子指令集和數(shù)據(jù)流DSA微架構(gòu)?！八阕又噶罴且粋€比較宏觀的指令。然而，底層采用可編程數(shù)據(jù)流的微架構(gòu)能提高能效和算力密度，同時其靈活性也保證了算子指令集的完備性。另外，愛芯元智成熟的軟件工具鏈可以讓開發(fā)者快速上手，軟硬件的聯(lián)合設(shè)計則保障了AI處理器的高速迭代?！?/p>
視覺大模型落地物聯(lián)網(wǎng)與智能駕駛提速
基于算法、芯片、產(chǎn)品的垂直整合以及協(xié)同設(shè)計開發(fā)，愛芯元智致力于打造世界領(lǐng)先的人工智能感知與邊緣計算芯片并提供全棧式解決方案，進而幫助客戶實現(xiàn)最新技術(shù)的快速落地，以及服務(wù)智慧城市、智能駕駛、機器人以及AR/VR等巨大的邊緣和端側(cè)設(shè)備市場。
論壇上，愛芯元智在智慧物聯(lián)、智能駕駛等領(lǐng)域合作伙伴也分享了AI處理器的應(yīng)用前景。
智慧物聯(lián)和人工智能創(chuàng)新融合專家 殷俊
其中，智慧物聯(lián)和人工智能創(chuàng)新融合專家殷俊表示，以視覺為主的智能大模型在城市治理與生產(chǎn)生活方面應(yīng)用廣泛。近年來，AI大模型在文本、語音等領(lǐng)域快速發(fā)展，但在視覺領(lǐng)域的落地卻面臨可靠性、穩(wěn)定性、理解不夠全面等挑戰(zhàn)。對此，真實準(zhǔn)確描述客觀世界是視覺大模型落地的關(guān)鍵，而行業(yè)應(yīng)用中未來一定需要大量的閉源模型來解決各類難點和特性。
顯然，視覺大模型還存在數(shù)據(jù)量極大，訓(xùn)練成本高，以及應(yīng)用場景復(fù)雜多變等特性。針對不斷更新迭代的視覺大模型，殷俊認(rèn)為，不應(yīng)該讓用戶放棄原有的技術(shù)投資，而是要通過大小模型協(xié)同和模型小型化實現(xiàn)最優(yōu)算力配置組合，從而加快大模型在行業(yè)應(yīng)用中的落地。
與物聯(lián)網(wǎng)一樣，視覺大模型在智能駕駛領(lǐng)域的應(yīng)用逐漸風(fēng)生水起。邁馳智行科技有限公司CTO張弛表示，目前自動駕駛顯示出BEV視覺感知媲美Lidar，不依賴高精度地圖，以及“端到端”模型等技術(shù)趨勢，使得BEV+Transformer大模型架構(gòu)正成為智駕行業(yè)主力軍。
邁馳智行科技有限公司CTO 張弛
張弛指出，大模型不僅加速自動駕駛從高速公路向更加復(fù)雜的城區(qū)場景的過渡，推動從顯示BEV升級至隱式BEV感知方案，也促進了端到端感知規(guī)控一體化的形成。在這一過程中，激光雷達、高精度地圖的作用在減弱，而豐富的端到端大模型則讓不受地理環(huán)境限制的點到點自動駕駛成為可能，但這背后還需要進一步突破優(yōu)化環(huán)境感知、預(yù)測決策等技術(shù)難點。
智能芯片+大模型助力AI落地和普惠深化
在整個人工智能產(chǎn)業(yè)發(fā)展中，大模型已成為至關(guān)重要的抓手并持續(xù)向端側(cè)遷移，而端云協(xié)同將推動大模型高效落地。面壁智能副總裁賈超認(rèn)為，憑借在成本、隱私、延時性、可靠性等方面的優(yōu)勢，端側(cè)AI發(fā)展會成為全球趨勢，這也意味著大模型正式進入了輕量化時代。
在這一背景下，“模型知識密度平均每8個月提升1倍”將成為大模型時代的新“摩爾定律”。賈超強調(diào)，“企業(yè)開發(fā)端側(cè)大模型需要在算法側(cè)和芯片側(cè)雙管齊下，包括采用端側(cè)芯片推進在應(yīng)用場景上高效落地，這樣才能給用戶帶來最極致的體驗。面壁智能打造了全球最強端側(cè)多模態(tài)模型“小鋼炮”MiniCPM系列，已經(jīng)在愛芯元智的AI芯片上成功運行。”
面壁智能副總裁 賈超
目前，雖然絕大多數(shù)AI芯片均采用Arm指令集架構(gòu)，但RISC-V架構(gòu)憑借開源開放、精簡、模塊化等優(yōu)勢逐漸在全球落地開花，并不斷向AI芯片領(lǐng)域深入。在未來大模型的時代，業(yè)界將可基于RISC-V設(shè)計不同芯片產(chǎn)品，從而提供更強的算力、存力、運力。
阿里巴巴達摩院RISC-V及生態(tài)高級技術(shù)專家尚云海分析稱，“大模型未來會呈現(xiàn)規(guī)模大、結(jié)構(gòu)統(tǒng)一、能力增強三大趨勢，但如今處于計算需求與硬件計算能力不匹配的階段，量化、結(jié)構(gòu)化稀疏、低精度訓(xùn)練將成為提升大模型性能的有效路徑。RISC-V作為開源架構(gòu)，可以第一時間適應(yīng)AI算法和算子的快速變化，滿足大模型對AI算力和芯片架構(gòu)發(fā)展的需求?！?/p>
達摩院RISC-V及生態(tài)高級技術(shù)專家 尚云海
與成熟的X86和Arm架構(gòu)相比，雖然RISC-V在開發(fā)工具、軟件和環(huán)境方面還存在一定差距。不過，尚云海認(rèn)為，RISC-V具有良好的自定義、可擴充等關(guān)鍵能力，提供覆蓋充分的彈性算力，而且在開發(fā)周期上較x86和Arm架構(gòu)大幅提速，將在AI芯片領(lǐng)域大有可為，并且聯(lián)合愛芯元智的AI處理器一起，為客戶提供異構(gòu)架構(gòu)的AI芯片。
隨著大模型的應(yīng)用不斷推進各行各業(yè)智能化轉(zhuǎn)型，智能芯片的突破創(chuàng)新讓算力更加有的放矢。以“構(gòu)建世界一流的感知與計算平臺”為愿景，愛芯元智將攜手產(chǎn)業(yè)界堅定推進智能芯片與大模型的深度融合以及云邊端一體化，進而推動大模型落地加速和AI普惠不斷深化。
