百模大戰(zhàn)之下，AI大模型從模型為王走向價(jià)值為王，持續(xù)向邊緣側(cè)和端側(cè)滲透，AI處理重心正加速從云側(cè)向端側(cè)轉(zhuǎn)移?；诔杀?、可靠性、安全等考量，端側(cè)AI能力已成為賦能混合AI并讓生成式AI實(shí)現(xiàn)規(guī)?；瘮U(kuò)展的關(guān)鍵。
尤其是生成式AI模型通過多種“瘦身”方式正在變小，同時(shí)端側(cè)AI處理能力持續(xù)提升，雙向“合力”讓端側(cè)AI落地的軟硬件基礎(chǔ)逐步夯實(shí)。業(yè)界分析，AI大模型的壓縮和端側(cè)推理框架的輕量化，加上邊緣算力的躍升，AI與智能終端融合的核心技術(shù)條件已然就緒。
數(shù)據(jù)或可彰顯這一趨勢(shì)：受邊緣計(jì)算及AI端側(cè)應(yīng)用落地驅(qū)動(dòng)，Gartner預(yù)計(jì)2026年全球邊緣AI芯片市場(chǎng)規(guī)模達(dá)到688億美元，2022—2026年CAGR將達(dá)到16.9%。
在前不久舉辦的WAIC大會(huì)上，眾多公司各展神通，呈現(xiàn)AI計(jì)算在汽車、智能手機(jī)、PC、音箱以及其他可穿戴新型終端“運(yùn)行”落地的繁盛圖景。作為國(guó)內(nèi)領(lǐng)先的半導(dǎo)體設(shè)計(jì)企業(yè)，國(guó)科微電子股份有限公司亦攜全系邊端AI芯片精彩亮相。其中，大算力AI邊緣計(jì)算芯片、車載SerDes芯片首次正式亮相，以充沛的算力、卓越的性能構(gòu)建邊緣AI堅(jiān)實(shí)的“芯”引擎。
端側(cè)AI芯片打造三大優(yōu)勢(shì)
端側(cè)AI要承擔(dān)大模型應(yīng)用落地關(guān)鍵的重任，需要在AI芯片算力增強(qiáng)、模型優(yōu)化、軟件適配以及終端落地應(yīng)用層面形成正反饋的閉環(huán)。
對(duì)于半導(dǎo)體設(shè)計(jì)廠商而言，AI芯片的算力和模型優(yōu)化能力成為決定應(yīng)用落地的關(guān)鍵環(huán)節(jié)。眾所周知，生成式AI的多樣化要求帶來了計(jì)算的多樣性，異構(gòu)計(jì)算架構(gòu)成為不約而同的選擇。尤其是在AI計(jì)算當(dāng)中，神經(jīng)網(wǎng)絡(luò)處理器NPU扮演了重要角色，在以低功耗實(shí)現(xiàn)持續(xù)穩(wěn)定的高峰值性能應(yīng)用中NPU可發(fā)揮其最大優(yōu)勢(shì)。
著眼于這一需求，在半導(dǎo)體設(shè)計(jì)領(lǐng)域深耕15年之久的國(guó)科微，依托在視頻編解碼、固態(tài)存儲(chǔ)主控、物聯(lián)網(wǎng)芯片等領(lǐng)域的豐厚積淀，以及在底層算力和工具鏈等方面的深厚積累，致力于將AI技術(shù)與大規(guī)模集成電路設(shè)計(jì)技術(shù)結(jié)合，通過自主研發(fā)成功推出了NPU，實(shí)現(xiàn)了低中高算力的全場(chǎng)景布局，打造全系邊端AI芯片標(biāo)配NPU技術(shù)，賦能多元化智能應(yīng)用場(chǎng)景落地。
據(jù)工作人員介紹，國(guó)科微AI邊緣計(jì)算芯片擁有三大優(yōu)勢(shì)：一是擁有充沛的算力，整數(shù)精度達(dá)到20TOPS（INT8），半精度達(dá)到10TFLOPS (FP16)；二是具有超強(qiáng)的編解碼能力，可實(shí)現(xiàn)40*1080P@30FPS解碼、20*1080P@30FPS編碼；三是支持訓(xùn)推一體，支持輕量級(jí)LLM語言大模型、AIGC生成式模型、CV大模型以及多模態(tài)大模型等，支持主流計(jì)算框架和開發(fā)工具。
憑借上述“全武行”優(yōu)勢(shì)，國(guó)科微AI芯片為促進(jìn)端側(cè)AI落地打開了大門。國(guó)科微介紹，其AI邊緣計(jì)算芯片可使用在AI相機(jī)、AI模組、AI加速卡、AI智能終端以及邊緣服務(wù)器等多種形態(tài)的邊緣AI產(chǎn)品上，在智能制造、智能駕駛、機(jī)器人、工業(yè)視覺等領(lǐng)域廣泛應(yīng)用。
這也表明，國(guó)科微AI邊緣計(jì)算芯片在大算力NPU領(lǐng)域取得了階段性的突破。
全矩陣產(chǎn)品助陣智能網(wǎng)聯(lián)落地
促進(jìn)AI大模型在端側(cè)加速落地，還要著眼于場(chǎng)景的具體需求，提供針對(duì)性的解決方案。圍繞蓬勃發(fā)展的智能網(wǎng)聯(lián)市場(chǎng)，國(guó)科微也在集結(jié)發(fā)力。
尤其是近日五部門聯(lián)合發(fā)布“車路云一體化”應(yīng)用試點(diǎn)城市名單，我國(guó)20個(gè)城市入選智能網(wǎng)聯(lián)汽車“車路云一體化”應(yīng)用試點(diǎn)，將進(jìn)一步加快智能網(wǎng)聯(lián)應(yīng)用和商業(yè)化進(jìn)程。預(yù)計(jì)2030年中國(guó)智能網(wǎng)聯(lián)汽車市場(chǎng)規(guī)模有望突破5萬億元，“車路云一體化”相關(guān)市場(chǎng)規(guī)模超14萬億元。
國(guó)科微AI首席科學(xué)家邢國(guó)良教授在WAIC大會(huì)發(fā)表《下一代自動(dòng)駕駛技術(shù)：從嵌入式視覺到車路協(xié)同》的演講中也指出，從國(guó)內(nèi)外自動(dòng)駕駛技術(shù)發(fā)展來看自動(dòng)駕駛?cè)灾饕性诘妥詣?dòng)化水平，與最初發(fā)展預(yù)期有著較大落差，且自動(dòng)駕駛市場(chǎng)增速已呈現(xiàn)放緩趨勢(shì)。在這一背景下，智能網(wǎng)聯(lián)正成為全球范圍內(nèi)自動(dòng)駕駛技術(shù)研究的新趨勢(shì)，特別是車載平臺(tái)與基礎(chǔ)設(shè)施的互聯(lián)和協(xié)同將會(huì)大幅提升自動(dòng)駕駛的性能和安全性。
實(shí)現(xiàn)基于智能網(wǎng)聯(lián)的下一代自動(dòng)駕駛技術(shù)，邢國(guó)良表示，這需要在嵌入式視覺和車路協(xié)同兩個(gè)方向進(jìn)行突破。其中，在車端和路側(cè)，需要高性能的多模態(tài)傳感器和感知算法支持，而在車路協(xié)同層面，需要全新的分布式算法來擴(kuò)展車輛感知范圍，提高感知精度。相應(yīng)地，前者帶來龐大數(shù)據(jù)量、高計(jì)算負(fù)載挑戰(zhàn)，而后者則對(duì)高通信帶寬需求、實(shí)時(shí)性、感知融合精度提出高要求。
基于對(duì)市場(chǎng)趨勢(shì)的深刻洞察和累積的技術(shù)基石，國(guó)科微三路并舉：以AI邊緣計(jì)算芯片賦能車路協(xié)同路側(cè)邊緣計(jì)算單元、智慧視覺芯片賦能車路協(xié)同路側(cè)多維數(shù)據(jù)采集、SerDes和車載攝像頭芯片賦能車路協(xié)同車輛智能駕駛，全面助力下一代自動(dòng)駕駛加速落地。
國(guó)科微著力打造安全智駕全系芯片，推出的車載AI攝像頭芯片采用自研AI-ISP，具備8M@45fps視頻采集處理能力，支持多目，并滿足AEC-Q100、ISO26262 ASIL B認(rèn)證要求。
隨著智能座艙和智能駕駛技術(shù)的發(fā)展，傳感器接入到控制器的數(shù)據(jù)量越來越大，低延遲需求越來越高，針對(duì)這一市場(chǎng)需求，國(guó)科微成功研制車載SerDes芯片，并在WAIC2024首次公開亮相。其車載SerDes芯片實(shí)現(xiàn)了三項(xiàng)全能：正向傳輸速率達(dá)6.4Gbps，傳輸距離可達(dá)15米，滿足大數(shù)據(jù)量、高速率、遠(yuǎn)距離、低延遲傳輸需求；支持多信號(hào)傳輸協(xié)議設(shè)計(jì)，為汽車數(shù)據(jù)傳輸帶來完整的解決方案；滿足AEC-Q100 Grade 2及ISO26262 ASIL B要求，保障安全與智能的駕乘體驗(yàn)。
持續(xù)向高端算力進(jìn)發(fā)
當(dāng)前，AI已成為萬物互聯(lián)數(shù)字世界發(fā)展的主旋律，面對(duì)生成式AI的新浪潮，國(guó)科微持續(xù)攻堅(jiān)加速擁抱AI，在邊端AI芯片的自主研發(fā)道路上漸入佳境。端側(cè)AI大模型帶來三大優(yōu)勢(shì)：一是本地?cái)?shù)據(jù)處理效率更高，節(jié)省云端服務(wù)器帶寬和算力成本；二是可以帶來更多交互方式和新體驗(yàn)；三是可形成更好的安全保護(hù)。
而在WAIC2024首次公開亮相的大算力AI邊緣計(jì)算芯片與車載SerDes芯片便是國(guó)科微AI轉(zhuǎn)型道路上的兩大重要成果。
出手即不凡，國(guó)科微面向多元化需求，不僅實(shí)現(xiàn)了中高低算力布局，前端IPC最高4T算力，邊緣計(jì)算及智能終端設(shè)備32T算力，且支持多模態(tài)云邊協(xié)同大模型，不斷為端側(cè)AI的落地注入新能量。
在取得階段性突破之后，國(guó)科微的目標(biāo)更為長(zhǎng)遠(yuǎn)。國(guó)科微表示，未來瞄準(zhǔn)更高算力、融合多模態(tài)大模型持續(xù)投入研發(fā)，為推動(dòng)更多智慧應(yīng)用場(chǎng)景落地賦能。
一方面，將精準(zhǔn)把握AI技術(shù)發(fā)展前沿，深度布局NPU、高速連接、視頻編解碼、無線連接以及AI ISP技術(shù)等，實(shí)現(xiàn)全系邊端AI芯片的持續(xù)迭代；另一方面，主動(dòng)擁抱大模型，為推動(dòng)端側(cè)AI應(yīng)用落地、促進(jìn)新質(zhì)生產(chǎn)力加快發(fā)展注入芯動(dòng)力。
無疑，國(guó)科微憑借軟硬兼施的策略、與AI大模型的深度融合，也將在AI與大模型時(shí)代產(chǎn)生屬于自己的“飛輪效應(yīng)”。
