近日,云天勵飛在互動平臺表示,公司Deep Edge 10是國內(nèi)首創(chuàng)的國產(chǎn)14nm Chiplet大模型推理芯片,采用自主可控的國產(chǎn)工藝,內(nèi)含國產(chǎn)RISC-V核,支持大模型推理部署。依托自研芯片DeepEdge10創(chuàng)新的D2D chiplet架構(gòu)打造的X5000推理卡,已適配并可承載SAM CV大模型、Llama2等百億級大模型運(yùn)算,可廣泛應(yīng)用于AIoT邊緣視頻、移動機(jī)器人等場景。
云天勵飛還表示,公司Deep Edge10 系列推理卡已經(jīng)適配了包括云天天書、通義千問、百川智能、以及 Llama2/3 等在內(nèi)的近十個主流大模型。
當(dāng)前,AI 從云端大模型將逐漸向端側(cè)發(fā)展的趨勢逐漸明朗。邊緣 AI 需綜合考慮端側(cè)客戶對實時性、安全性、隱私性的需求。云天勵飛 Deep Edge 系列推理卡可實現(xiàn)性能更強(qiáng)的輕量級邊緣智能設(shè)備并支持邊緣智能計算加速卡,滿足 AI 解決方案在更靠近數(shù)據(jù)源頭的用戶現(xiàn)場靈活部署的需求,通過芯片、加速卡、邊緣盒子、服務(wù)器等多形態(tài)應(yīng)用于智能計算中心大模型推理、機(jī)器人、智慧泊車、全息路口方案及城市治理等,并逐步向智能硬件進(jìn)行布局。同時,云天勵飛通過岍丞技術(shù),進(jìn)入華為、榮耀、OPPO、VIVO、安克、boAt、Noise 等終端品牌供應(yīng)鏈,開始探索 AI 在智能家居、智能穿戴場景的應(yīng)用,并持續(xù)探索邊緣 AI 的商用場景。