人工智能是新一輪科技革命和產(chǎn)業(yè)升級(jí)的重要驅(qū)動(dòng)力量,當(dāng)下人工智能應(yīng)用落地已邁入新階段,無(wú)線連接與邊緣AI運(yùn)算能力相結(jié)合的巨大市場(chǎng)在未來(lái)將呈現(xiàn)出高速增長(zhǎng)的態(tài)勢(shì),這其中尤其以AI端側(cè)應(yīng)用為突出代表。
泰凌微電子(688591.SH)近日于芯片技術(shù)領(lǐng)域斬獲新突破,正式向市場(chǎng)推出了新一代高度集成的芯片TL721X和TL751X以及基于兩款芯片的機(jī)器學(xué)習(xí)與人工智能發(fā)展平臺(tái)TLEdgeAI-DK(以下統(tǒng)稱(chēng):TL-EdgeAI發(fā)展平臺(tái))。
TL721x及TL751x系列,增加了邊緣AI運(yùn)算能力,基于這兩款芯片的TL-EdgeAI發(fā)展平臺(tái),將支持主流本地端AI模型,如谷歌LiteRT、TVM等開(kāi)源模型,是目前世界上功耗最低的智能物聯(lián)網(wǎng)連接協(xié)議平臺(tái),特別適合運(yùn)用在需要電池供電的各類(lèi)產(chǎn)品,為海量AI端側(cè)應(yīng)用的未來(lái)發(fā)展鋪就嶄新道路。
TL721X 作為國(guó)內(nèi)率先實(shí)現(xiàn)工作電流低至 1mA 量級(jí)的超低功耗多協(xié)議物聯(lián)網(wǎng)無(wú)線 SoC 芯片,可出色滿(mǎn)足新一代高性能智能物聯(lián)網(wǎng)終端產(chǎn)品對(duì)于核心芯片所提出的更為嚴(yán)苛、多元的高標(biāo)準(zhǔn)要求。TL751X 則以獨(dú)特的高性能、多協(xié)議以及高集成度的特質(zhì),采用先進(jìn)的多核設(shè)計(jì)理念,集成了HiFi-5 DSP,由此衍生出極為強(qiáng)大的運(yùn)算處理能力,并集成了豐富多樣且實(shí)用的功能模塊,可適用于智能無(wú)線物聯(lián)網(wǎng)、無(wú)線音頻 SoC等領(lǐng)域。
該兩款A(yù)I芯片及搭載的機(jī)器學(xué)習(xí)與人工智能發(fā)展平臺(tái),使藍(lán)牙芯片脫離了傳統(tǒng)藍(lán)牙芯片的傳輸功能,實(shí)現(xiàn)了可自行學(xué)習(xí),可以參與、對(duì)接大模型和應(yīng)用小模型,并實(shí)現(xiàn)了和國(guó)際、國(guó)內(nèi)一線的智能音頻、智能家居廠家的全面合作。
從藍(lán)牙連接到端側(cè)AI,泰凌微邁入全新發(fā)展階段
自2010年起航以來(lái),泰凌微電子始終聚焦在無(wú)線物聯(lián)網(wǎng)芯片技術(shù)等前沿領(lǐng)域,已擁有了齊全的無(wú)線物聯(lián)網(wǎng)系統(tǒng)級(jí)芯片產(chǎn)品種類(lèi),包括多模物聯(lián)網(wǎng)芯片、無(wú)線音頻芯片、私有協(xié)議芯片,滿(mǎn)足多樣化的物聯(lián)網(wǎng)應(yīng)用需求,針對(duì)這些芯片,泰凌微都提供了自研固件協(xié)議棧和完整的參考設(shè)計(jì),從而形成了自身的產(chǎn)品競(jìng)爭(zhēng)力與護(hù)城河,完善的產(chǎn)品與技術(shù),得到了市場(chǎng)檢驗(yàn)與認(rèn)可的可靠性,以及供應(yīng)鏈穩(wěn)定性等因素,幫助泰凌微能夠躋身全球連接芯片的頭部廠商,2024年年中,泰凌微的全球累計(jì)出貨量已跨越20億顆這一重大里程碑。
邊緣AI(Edge AI)是指在數(shù)據(jù)產(chǎn)生的本地或邊緣設(shè)備上集成人工智能算法和處理能力,使設(shè)備能夠直接運(yùn)行人工智能模型,而無(wú)需依賴(lài)云端服務(wù)器處理數(shù)據(jù)。這些本地設(shè)備包括海量的各類(lèi)傳感器、攝像頭、音頻設(shè)備、機(jī)器人以及其他智能硬件。通過(guò)這種技術(shù),設(shè)備可以在數(shù)據(jù)生成的地點(diǎn)實(shí)時(shí)處理信息,從而顯著降低延遲、節(jié)省數(shù)據(jù)傳輸帶寬,并提升響應(yīng)速度。與此同時(shí),由于數(shù)據(jù)無(wú)需傳輸?shù)竭h(yuǎn)程服務(wù)器處理,還能有效降低數(shù)據(jù)泄露和隱私問(wèn)題的風(fēng)險(xiǎn)。
邊緣AI的應(yīng)用場(chǎng)景十分廣泛,涵蓋智能家居、智慧醫(yī)療、智能樓宇、工業(yè)物聯(lián)網(wǎng)、安防監(jiān)控等眾多領(lǐng)域。泰凌微電子每年銷(xiāo)售的數(shù)億片芯片中,已有大量產(chǎn)品應(yīng)用于這些領(lǐng)域。近年來(lái),隨著客戶(hù)對(duì)在芯片中增加邊緣AI能力的需求不斷增長(zhǎng),泰凌微電子投入了大量研發(fā)資源,最終推出新一代支持邊緣AI運(yùn)算的芯片。這一突破將顯著提升公司產(chǎn)品在相關(guān)領(lǐng)域的競(jìng)爭(zhēng)力,進(jìn)一步打開(kāi)同時(shí)需要無(wú)線連接與邊緣AI運(yùn)算能力的高速增長(zhǎng)的巨大市場(chǎng)。
另一方面,邊緣計(jì)算通常對(duì)設(shè)備的能耗提出較高要求,而泰凌微電子在低功耗領(lǐng)域則有著有著深厚的技術(shù)沉淀,從而能夠使得TL-EdgeAI發(fā)展平臺(tái)一經(jīng)面世即可達(dá)到目前世界上功耗最低這一性能表現(xiàn)。
高效整合各大主流算法模型 打開(kāi)端側(cè)AI市場(chǎng)
泰凌微電子基于這兩款TL721x及TL751x高集成、超低功耗的芯片,成功打造出TL-EdgeAI發(fā)展平臺(tái)。此平臺(tái)全力支持用戶(hù)快速移植現(xiàn)有的機(jī)器學(xué)習(xí)模型,并且用戶(hù)還可運(yùn)用LiteRT、TVM等主流本地人工智能算法,使其在開(kāi)發(fā)實(shí)際產(chǎn)品時(shí),能高效地將本地端的人工智能功能加以整合。用戶(hù)不但能夠獲取可直接運(yùn)行的LiteRT模型,以便在多種機(jī)器學(xué)習(xí)與人工智能工作場(chǎng)景中自如應(yīng)用,而且還能憑借AI Edge轉(zhuǎn)換和優(yōu)化工具,把TensorFlow、PyTorch和JAX模型順利轉(zhuǎn)換為T(mén)FLite格式并使之運(yùn)行。
其中,TensorFlow、JAX模型系由谷歌公司的人工智能團(tuán)隊(duì)谷歌大腦(Google Brain)開(kāi)發(fā)和維護(hù),PyTorch則是由Facebook公司的人工智能研究團(tuán)隊(duì)開(kāi)發(fā)。
在工作流程方面,也極為簡(jiǎn)化,以LiteRT機(jī)器學(xué)習(xí)為例,泰凌微電子的本地端人工智能開(kāi)發(fā)平臺(tái)已可支持:
1 訓(xùn)練模型:
生成適配目標(biāo)裝置的小型TensorFlow模型,涵蓋所支持的應(yīng)用;
運(yùn)用 LiteRT 轉(zhuǎn)換工具指令,將其轉(zhuǎn)換為L(zhǎng)iteRT模型;
借助標(biāo)準(zhǔn)工具存儲(chǔ)數(shù)據(jù),把裝置只讀程序內(nèi)存轉(zhuǎn)換為C字節(jié)數(shù)組。
2 使用C++鏈接庫(kù),并在裝置上執(zhí)行推論結(jié)果。
用戶(hù)可借助泰凌微電子提供的ML/AI SDK,并結(jié)合上述訓(xùn)練模型成果,快速集成到實(shí)際產(chǎn)品應(yīng)用中,搶占上市先機(jī)(Time-To-Market)。目前,泰凌微電子正積極協(xié)助客戶(hù)利用此開(kāi)發(fā)平臺(tái)引入人工智能功能,極大地提升產(chǎn)品的差異化程度,創(chuàng)造產(chǎn)品價(jià)值。泰凌微電子目前已成功地利用TL-EdgeAI發(fā)展平臺(tái),將邊緣AI的機(jī)器學(xué)習(xí)模型整合到智能音頻和智能家居產(chǎn)品中,實(shí)現(xiàn)了與實(shí)際應(yīng)用的緊密結(jié)合,同時(shí)還在與更多的用戶(hù)和策略伙伴合作開(kāi)發(fā)各種適合不同應(yīng)用領(lǐng)域具有邊緣AI功能的創(chuàng)新產(chǎn)品,其中包括和國(guó)內(nèi)領(lǐng)先的大模型AI公司進(jìn)行的相關(guān)產(chǎn)品的深度合作。
以智能音頻為例,在消費(fèi)音頻設(shè)備中,TL751X以高性能、多協(xié)議和高集成度支持耳機(jī)等設(shè)備實(shí)現(xiàn)優(yōu)質(zhì)音頻傳輸,同時(shí)借助強(qiáng)大算力為智能語(yǔ)音交互助力,如依語(yǔ)音指令智能切換音頻模式;并以低功耗和人工智能降噪算法,精準(zhǔn)識(shí)別并抑制環(huán)境噪音。音頻會(huì)議系統(tǒng)里,TL751X 處理多路音頻,借助人工智能實(shí)現(xiàn)高清通話、混音與智能語(yǔ)音指令響應(yīng),像自動(dòng)記錄要點(diǎn)等。在多人組網(wǎng)對(duì)講系統(tǒng)中,TL-EdgeAI_751X平臺(tái)結(jié)合自研的低延遲Mesh網(wǎng)絡(luò)技術(shù)和Telink Edge AI-Noise Reduction技術(shù),已經(jīng)實(shí)現(xiàn)了同時(shí)多達(dá)24人的低延時(shí)、高穩(wěn)定性和高音質(zhì)的雙工通信,推動(dòng)了智能音頻技術(shù)在人工智能的加持下不斷創(chuàng)新和發(fā)展,廣泛應(yīng)用于各個(gè)領(lǐng)域。
以智能家居為例,TL721X的高性能,低延時(shí)與低功耗特性,讓智能語(yǔ)音助手更加流暢自然,用戶(hù)可通過(guò)語(yǔ)音以非常低的延時(shí)便捷控制燈光、窗簾、空調(diào)等設(shè)備。支持Matter使不同協(xié)議的燈光、窗簾、空調(diào)等設(shè)備無(wú)縫連接,加上低功耗優(yōu)勢(shì)保障設(shè)備持久運(yùn)行。豐富的外設(shè)接口連接傳感器,借助人工智能算法,可實(shí)現(xiàn)室內(nèi)環(huán)境的智能感知學(xué)習(xí)與調(diào)控,極大提升居住舒適度。目前,TL-EdgeAI_721x平臺(tái)可支持多種智能傳感器機(jī)器學(xué)習(xí)算法(Edge AI Sensor Hub)并支持最新網(wǎng)絡(luò)Matter協(xié)議。泰凌微電子在智能家居擴(kuò)展應(yīng)用上在行業(yè)內(nèi)處于領(lǐng)先地位。
此次發(fā)布新一代高度集成的芯片TL721X和TL751X以及基于兩款芯片的TL- EdgeAI發(fā)展平臺(tái),標(biāo)志著泰凌微電子在融合機(jī)器學(xué)習(xí)及人工智能軟硬件技術(shù)、拓展AI端側(cè)應(yīng)用市場(chǎng)等方面取得實(shí)質(zhì)性進(jìn)展。
目前,TL721X已步入量產(chǎn)籌備的關(guān)鍵階段,預(yù)計(jì)將于2025年中正式開(kāi)啟大規(guī)模批量生產(chǎn)階段,并已率先向部分先導(dǎo)客戶(hù)提供樣品進(jìn)行前期試用與評(píng)估。而TL751X則憑借其卓越的高性能、廣泛的多協(xié)議支持以及出色的高集成度優(yōu)勢(shì),已在市場(chǎng)中嶄露頭角。
泰凌微將藉由TL-EdgeAI發(fā)展平臺(tái),將邊緣AI的機(jī)器學(xué)習(xí)模型整合到智能音頻和智能家居產(chǎn)品中,實(shí)現(xiàn)與實(shí)際應(yīng)用的緊密結(jié)合,同時(shí)還在與更多的用戶(hù)和策略伙伴,合作開(kāi)發(fā)各種適合不同應(yīng)用領(lǐng)域、具有邊緣AI功能的創(chuàng)新產(chǎn)品,TL-EdgeAI發(fā)展平臺(tái)的發(fā)布將提升泰凌微產(chǎn)品在相關(guān)領(lǐng)域的競(jìng)爭(zhēng)力,進(jìn)一步打開(kāi)同時(shí)需要無(wú)線連接與邊緣AI運(yùn)算能力的高速增長(zhǎng)的巨大市場(chǎng)。