高通公司AI產(chǎn)品技術(shù)中國區(qū)負(fù)責(zé)人萬衛(wèi)星
6月19日,在GSMA 2025 MWC上海期間舉辦的AI終端峰會上,高通公司AI產(chǎn)品技術(shù)中國區(qū)負(fù)責(zé)人萬衛(wèi)星就智能體AI發(fā)展趨勢發(fā)表了看法,并就高通在推動智能體AI在終端部署方面的情況進行了分享。
當(dāng)前,AI發(fā)展正在進入全新階段,AI發(fā)展重心正在向邊緣終端轉(zhuǎn)移,向智能體AI領(lǐng)域轉(zhuǎn)型。
智能體AI帶來的重要改變在于重塑終端消費者的交互界面,成為一種新的交互方式。正因如此,高通提出“AI is the new UI”。
“用戶可以通過非常簡單的自然語言來驅(qū)動智能設(shè)備,完成一系列復(fù)雜的操作。同時,智能體AI本身還能夠預(yù)測用戶的想法,預(yù)判用戶接下來可能要做的事情,并協(xié)助用戶進行規(guī)劃和執(zhí)行。隨著端側(cè)能力的提升和端側(cè)模型的加強,用戶對于隱私、安全和個性化服務(wù)的需求日益增長。高通認(rèn)為,未來的AI智能體必定是一個能夠感知環(huán)境、專屬個性化且安全可靠的智能體?!比f衛(wèi)星表示。
對于智能體AI在終端側(cè)部署面臨的機遇和挑戰(zhàn),萬衛(wèi)星指出,首先,實現(xiàn)智能體AI的整體端側(cè)部署,需要更強大的模型。當(dāng)前的趨勢表明,端側(cè)模型正在迅速迭代,且端側(cè)小模型的能力也在不斷增強。目前已經(jīng)看到了端側(cè)多模態(tài)模型的發(fā)展。在去年的驍龍峰會上,高通也展示了這種多模態(tài)能力,包括一些小模型的能力。未來,小模型將支持更長的上下文,這對于在端側(cè)運行至關(guān)重要,并且是非常關(guān)鍵的技術(shù)之一。
其次,需要提供更好、更高效、更智能化的用戶體驗。這要求在技術(shù)上提供更充沛的算力、更高的性能和能效。這不僅針對單一的IP,而是整個系統(tǒng)性的AI能力,包括AI本身的能力和數(shù)據(jù)傳輸帶寬。高通通過先進的異構(gòu)計算架構(gòu),使得AI的各個模塊可以根據(jù)不同需求在不同的核心組件上運行,并通過這些IP核心組件的協(xié)同工作,完成AI的整體部署在端側(cè)的運行。
第三,需要一個更加高效的端到端框架、解決方案,以及更高效的軟件工具鏈和更強大的生態(tài)系統(tǒng)。高通推出名為“規(guī)劃器”的端到端解決方案。該解決方案可以完全在端側(cè)運行,其不同的核心組件也可以方便地供給客戶和開發(fā)者單獨調(diào)用,包括個人知識圖譜和各種知識向量庫等。
萬衛(wèi)星介紹,作為一家致力于基礎(chǔ)技術(shù)創(chuàng)新的公司,高通為AI的到來進行了全方位的技術(shù)儲備。
首先,在硬件層面,高通將整個AI的需求貫穿于芯片設(shè)計的全過程,為AI的加速提供了多種IP組件。由于AI的應(yīng)用場景非常多樣,即使在智能體AI中,其眾多模塊對硬件的需求也各不相同。高通的加速處理器包括高算力、低功耗的NPU、通用的CPU、GPU,以及適用于超低功耗場景的傳感器中樞,特別是Always-On的功能。這些IP組件既可獨立工作,也可協(xié)同合作,以實現(xiàn)AI功能模塊的各項需求。
其次,除了硬件層面的工作外,高通在軟件層面也取得了顯著進展。一是當(dāng)開發(fā)出新的模型時,首要任務(wù)是將該模型部署到設(shè)備上,確保設(shè)備能夠運行,并且在端側(cè)高效執(zhí)行。這要求提供高效的轉(zhuǎn)換工具和工具鏈。二是高通公司產(chǎn)品線豐富多樣——包括手機、汽車和PC等——除了高效的工具鏈外,還需要提供一個靈活的解決方案,以便幫助客戶輕松地將模型移植到其他產(chǎn)品上。這意味著需要構(gòu)建一個統(tǒng)一的AI服務(wù)平臺。
第三,高通還提供了端到端的解決方案,專門針對智能體AI,即上文提及的規(guī)劃器(Orchestrator)。
該規(guī)劃器能夠便捷地通過自然語言幫助用戶完成任務(wù),支持使用自然語言來驅(qū)動和執(zhí)行較為復(fù)雜的任務(wù)。它具備意圖理解能力,能夠協(xié)助進行任務(wù)編排,并且可以利用用戶手機中的本地個人知識圖譜和各類向量庫,從而提供更為智能和個性化的服務(wù)。這些先進技術(shù)使高通能夠與合作伙伴、客戶乃至整個生態(tài)系統(tǒng)共同推進Agentic AI在端側(cè)的部署。
“目前,端側(cè)部署Agentic AI雖然存在挑戰(zhàn),但同時也帶來了更多機遇。因此,高通公司已經(jīng)做了豐富的技術(shù)儲備,并且我們還與行業(yè)內(nèi)合作伙伴緊密合作,以抓住這些機遇?!比f衛(wèi)星說。