亚洲五月天一区二区三区-日本午夜福利视频在线-日本欧美一区二区不卡免费-日韩深夜视频在线观看

摩爾線程“AI工廠”:以系統(tǒng)級(jí)創(chuàng)新定義新一代AI基礎(chǔ)設(shè)施

來(lái)源:愛(ài)集微 #摩爾線程#
1.9w

2025年7月25日,上海——在世界人工智能大會(huì)(WAIC 2025)開幕前夕,摩爾線程以“算力進(jìn)化,精度革命”為主題舉辦技術(shù)分享會(huì),并創(chuàng)新性提出“AI工廠”理念。摩爾線程創(chuàng)始人兼CEO張建中在主題演講中表示,為應(yīng)對(duì)生成式AI爆發(fā)式增長(zhǎng)下的大模型訓(xùn)練效率瓶頸,摩爾線程將通過(guò)系統(tǒng)級(jí)工程創(chuàng)新,構(gòu)建新一代AI訓(xùn)練基礎(chǔ)設(shè)施,致力于為AGI時(shí)代打造生產(chǎn)先進(jìn)模型的“超級(jí)工廠”

 “AI工廠”:鍛造先進(jìn)模型的“超級(jí)工廠”

人工智能前沿模型的競(jìng)爭(zhēng)正推動(dòng)著AI智能水平的迅猛提升,全球科技巨頭正以驚人的速度迭代模型。從GPT系列、Gemini到DeepSeek、QWen的快速更新,模型訓(xùn)練迭代時(shí)間已縮短至不足3個(gè)月,這種高頻迭代不僅體現(xiàn)在大型語(yǔ)言模型(LLM)上,還同步擴(kuò)展至多模態(tài)模型、語(yǔ)音模型、世界模型等前沿模型領(lǐng)域。這些模型在性能、效率和應(yīng)用場(chǎng)景上實(shí)現(xiàn)的指數(shù)級(jí)突破,不僅推動(dòng)了AI從專用領(lǐng)域向通用智能的跨越,其快速迭代的特性更對(duì)新一代高性能人工智能計(jì)算基礎(chǔ)設(shè)施提出了迫切需求。

摩爾線程提出的“AI工廠”,如同芯片晶圓廠的制程升級(jí),是一個(gè)系統(tǒng)性、全方位的變革,需要實(shí)現(xiàn)從底層芯片架構(gòu)創(chuàng)新、到集群整體架構(gòu)的優(yōu)化,再到軟件算法調(diào)優(yōu)和資源調(diào)度系統(tǒng)的全面升級(jí)。這種全方位的基礎(chǔ)設(shè)施變革,將推動(dòng)AI訓(xùn)練從千卡級(jí)向萬(wàn)卡級(jí)乃至十萬(wàn)卡級(jí)規(guī)模演進(jìn),以系統(tǒng)級(jí)工程實(shí)現(xiàn)生產(chǎn)力和創(chuàng)新效率的飛躍。

這座“AI工廠”的智能“產(chǎn)能”,由五大核心要素共同決定,其效率公式可概括為:AI工廠生產(chǎn)效率 = 加速計(jì)算通用性 × 單芯片有效算力 × 單節(jié)點(diǎn)效率 × 集群效率 × 集群穩(wěn)定性

摩爾線程以全功能GPU通用算力為基石,通過(guò)先進(jìn)架構(gòu)、芯片算力、單節(jié)點(diǎn)效率、集群效率優(yōu)化與可靠性等協(xié)同躍升的深度技術(shù)創(chuàng)新,旨在將全功能GPU加速計(jì)算平臺(tái)的強(qiáng)大潛能,轉(zhuǎn)化為工程級(jí)的訓(xùn)練效率與可靠性保障

五大核心技術(shù):系統(tǒng)性提升AI訓(xùn)練效率

摩爾線程通過(guò)軟硬深度協(xié)同的系統(tǒng)級(jí)創(chuàng)新,從五大核心技術(shù)構(gòu)建“AI工廠”,致力于推動(dòng)大模型訓(xùn)練效率實(shí)現(xiàn)質(zhì)的飛躍。

技術(shù)一:全功能GPU,實(shí)現(xiàn)加速計(jì)算通用性

在AI基礎(chǔ)設(shè)施建設(shè)中,計(jì)算功能的完備性與精度完整性是支撐多元場(chǎng)景的核心基石。摩爾線程以自主研發(fā)的全功能GPU為核心,構(gòu)建了“功能完備”與“精度完整”的通用性底座,全面覆蓋從AI訓(xùn)練、推理到科學(xué)計(jì)算的全場(chǎng)景需求。

創(chuàng)新突破:?jiǎn)涡酒采w多場(chǎng)景。基于MUSA架構(gòu)的突破性設(shè)計(jì),摩爾線程的GPU單芯片即可集成AI計(jì)算加速、圖形渲染、物理仿真及超高清視頻編解碼能力,充分適配AI訓(xùn)推、具身智能、AIGC等多樣化應(yīng)用場(chǎng)景。

精度標(biāo)桿:性能躍升20%~30%在計(jì)算精度方面,摩爾線程支持從FP64至INT8的完整精度譜系,并通過(guò)FP8混合精度技術(shù),在主流前沿大模型訓(xùn)練中實(shí)現(xiàn)20%~30%的性能躍升,為國(guó)產(chǎn)GPU的算力效率樹立行業(yè)標(biāo)桿。

前瞻布局:推動(dòng)AI基礎(chǔ)設(shè)施進(jìn)化。這一技術(shù)體系不僅滿足大模型時(shí)代的高效計(jì)算需求,更為世界模型和新興AI架構(gòu)的演化提供前瞻性支撐,助力AI基礎(chǔ)設(shè)施向高通用性、高精度方向持續(xù)升級(jí)。

技術(shù)二:自研MUSA架構(gòu),提升芯片有效算力

強(qiáng)大的芯片有效算力是驅(qū)動(dòng)“AI工廠”高效運(yùn)轉(zhuǎn)的核心動(dòng)力。摩爾線程基于自研MUSA架構(gòu),通過(guò)計(jì)算、內(nèi)存、通信三重突破,顯著提升單GPU運(yùn)算效率。

創(chuàng)新架構(gòu)突破傳統(tǒng)限制摩爾線程采用創(chuàng)新的多引擎、可伸縮GPU架構(gòu),通過(guò)硬件資源池化及動(dòng)態(tài)資源調(diào)度技術(shù),構(gòu)建了全局共享的計(jì)算、內(nèi)存與通信資源池。這一設(shè)計(jì)不僅突破了傳統(tǒng)GPU功能單一的限制,還在保障通用性的同時(shí)顯著提升了資源利用率。其參數(shù)化配置可伸縮架構(gòu)允許面向目標(biāo)市場(chǎng)快速裁剪出優(yōu)化的芯片配置,大幅降低了新品芯片的開發(fā)成本。

計(jì)算性能顯著提升在計(jì)算層面,摩爾線程的AI加速系統(tǒng)(TCE/TME)全面支持INT8/FP8/FP16/BF16/TF32等多種混合精度計(jì)算。作為國(guó)內(nèi)首批實(shí)現(xiàn)FP8算力量產(chǎn)的GPU廠商,其FP8技術(shù)通過(guò)快速格式轉(zhuǎn)換、動(dòng)態(tài)范圍智能適配和高精度累加器等創(chuàng)新設(shè)計(jì),在保證計(jì)算精度的同時(shí),將Transformer計(jì)算性能提升約30%。

內(nèi)存與通信效率全面優(yōu)化內(nèi)存系統(tǒng)方面,通過(guò)多精度近存規(guī)約引擎、低延遲Scale-Up、通算并行資源隔離等技術(shù),實(shí)現(xiàn)了50%的帶寬節(jié)省和60%的延遲降低。在通信和互聯(lián)領(lǐng)域,獨(dú)創(chuàng)的ACE異步通信引擎減少了15%的計(jì)算資源損耗,MTLink2.0互聯(lián)技術(shù)提供了高出國(guó)內(nèi)行業(yè)平均水平60%的帶寬,為大規(guī)模集群部署奠定了堅(jiān)實(shí)基礎(chǔ)。

技術(shù)三:MUSA全棧系統(tǒng)軟件,提升單節(jié)點(diǎn)計(jì)算效率

當(dāng)AI算力競(jìng)爭(zhēng)進(jìn)入深水區(qū),摩爾線程通過(guò)MUSA全棧系統(tǒng)軟件實(shí)現(xiàn)關(guān)鍵技術(shù)突破,推動(dòng)AI工廠從單點(diǎn)創(chuàng)新轉(zhuǎn)向系統(tǒng)級(jí)效能提升。其核心創(chuàng)新包括:

任務(wù)調(diào)度優(yōu)化:核函數(shù)啟動(dòng)時(shí)間縮短50%;

極致性能算子庫(kù)GEMM算子算力利用率達(dá)98%,F(xiàn)lash Attention 算子算力利用率突破95%;

通信效能躍升:MCCL通信庫(kù)實(shí)現(xiàn)RDMA網(wǎng)絡(luò)97%帶寬利用率;基于異步通信引擎優(yōu)化計(jì)算通信并行,集群性能提升10%;

低精度計(jì)算效率革新:FP8優(yōu)化與重計(jì)算技術(shù)顯著降低訓(xùn)練開銷;

開發(fā)生態(tài)完善:基于Triton-MUSA編譯器 + MUSA Graph 實(shí)現(xiàn)DeepSeek R1推理加速1.5倍,全面兼容Triton等主流框架。

技術(shù)四:自研KUAE大規(guī)模集群,優(yōu)化集群效率

當(dāng)單節(jié)點(diǎn)效率達(dá)到新高度,如何實(shí)現(xiàn)大規(guī)模集群的高效協(xié)作成為新的挑戰(zhàn)。摩爾線程自研KUAE計(jì)算集群通過(guò)5D大規(guī)模分布式并行計(jì)算技術(shù),實(shí)現(xiàn)上千節(jié)點(diǎn)的高效協(xié)作,推動(dòng)AI基礎(chǔ)設(shè)施從單點(diǎn)優(yōu)化邁向系統(tǒng)工程級(jí)突破。

創(chuàng)新5D并行訓(xùn)練:摩爾線程整合數(shù)據(jù)、模型、張量、流水線和專家并行技術(shù),全面支持Transformer等主流架構(gòu),顯著提升大規(guī)模集群訓(xùn)練效率。

性能仿真與優(yōu)化:自主研發(fā)的Simumax工具面向超大規(guī)模集群自動(dòng)搜索最優(yōu)并行策略,精準(zhǔn)模擬FP8混合精度訓(xùn)練與算子融合,為DeepSeek等模型縮短訓(xùn)練周期提供科學(xué)依據(jù)。

秒級(jí)備份恢復(fù):針對(duì)大模型穩(wěn)定性難題,創(chuàng)新CheckPoint加速方案利用RDMA技術(shù),將百GB級(jí)備份恢復(fù)時(shí)間從數(shù)分鐘壓縮至1秒,提升GPU有效算力利用率。

技術(shù)五:零中斷容錯(cuò)技術(shù),提升集群的穩(wěn)定性和可靠性

在構(gòu)建高效集群的基礎(chǔ)上,穩(wěn)定可靠的運(yùn)行環(huán)境是“AI工廠”持續(xù)產(chǎn)出的保障。

特別在萬(wàn)卡級(jí)AI集群中,硬件故障導(dǎo)致的訓(xùn)練中斷會(huì)嚴(yán)重浪費(fèi)算力。摩爾線程創(chuàng)新推出零中斷容錯(cuò)技術(shù),故障發(fā)生時(shí)僅隔離受影響節(jié)點(diǎn)組,其余節(jié)點(diǎn)繼續(xù)訓(xùn)練,備機(jī)無(wú)縫接入,全程無(wú)中斷。這一方案使KUAE集群有效訓(xùn)練時(shí)間占比超99%,大幅降低恢復(fù)開銷。

同時(shí),KUAE集群通過(guò)多維度訓(xùn)練洞察體系實(shí)現(xiàn)動(dòng)態(tài)監(jiān)測(cè)與智能診斷,異常處理效率提升50%;結(jié)合集群巡檢與起飛檢查,訓(xùn)練成功率提高10%,為大規(guī)模AI訓(xùn)練提供穩(wěn)定保障。

從訓(xùn)練到驗(yàn)證:構(gòu)建完整閉環(huán)

摩爾線程以打造先進(jìn)的AI工廠為目標(biāo),憑借全功能GPU的通用計(jì)算能力、創(chuàng)新的MUSA架構(gòu)、優(yōu)化的MUSA軟件棧、自研的KUAE集群以及零中斷容錯(cuò)技術(shù)這五大核心要素,構(gòu)建起高效的“AI工廠”,為AI大模型訓(xùn)練提供了強(qiáng)大而可靠的基礎(chǔ)設(shè)施支持。

完善的“AI工廠”不僅需要高效訓(xùn)練大模型,還需具備推理驗(yàn)證能力。摩爾線程基于自研MUSA技術(shù)棧,構(gòu)建覆蓋LLM、視覺(jué)、生成類模型的全流程推理解決方案,實(shí)現(xiàn)“訓(xùn)練-驗(yàn)證-部署”的無(wú)縫銜接。其MT Transformer自研推理引擎、TensorX自研推理引擎和vLLM-MUSA推理框架,為模型驗(yàn)證和部署提供極致性能支持。

AI工廠,驅(qū)動(dòng)千行百業(yè)智能升級(jí)

依托AI工廠,摩爾線程成功構(gòu)建起覆蓋"訓(xùn)練-推理-部署"全流程的高效體系。這一突破標(biāo)志著國(guó)產(chǎn)計(jì)算基礎(chǔ)設(shè)施已具備支撐AGI時(shí)代規(guī)?;⒏咝?、高可靠模型生產(chǎn)的關(guān)鍵能力。

從圖形渲染基石到AI算力引擎,摩爾線程全功能GPU持續(xù)加速計(jì)算革新。“KUAE+MUSA為智算業(yè)務(wù)核心,摩爾線程將加速賦能千行百業(yè),推動(dòng)全功能GPU驅(qū)動(dòng)的AI技術(shù)在物理仿真、AIGC、科學(xué)計(jì)算、具身智能、智能體、醫(yī)療影像分析、工業(yè)大模型等關(guān)鍵領(lǐng)域的應(yīng)用與部署。

同時(shí),摩爾線程深知開放是生態(tài)繁榮之源。摩爾線程將于今年10月舉辦首屆MUSA開發(fā)者大會(huì),誠(chéng)邀全球開發(fā)者共探前沿技術(shù),共享MUSA自主新生態(tài)。

隨著WAIC 2025正式拉開帷幕,摩爾線程以“全功能GPU,為美好世界加速”為主題,精彩亮相上海世博展覽館H1-A821展位,誠(chéng)邀業(yè)界同仁蒞臨參觀交流,共同見證國(guó)產(chǎn)人工智能基礎(chǔ)設(shè)施的創(chuàng)新突破與發(fā)展。


責(zé)編: 愛(ài)集微
來(lái)源:愛(ài)集微 #摩爾線程#
THE END

*此內(nèi)容為集微網(wǎng)原創(chuàng),著作權(quán)歸集微網(wǎng)所有,愛(ài)集微,愛(ài)原創(chuàng)

關(guān)閉
加載

PDF 加載中...