6月6日-7日,第七屆北京智源大會在北京盛大召開。本屆大會匯聚了4位圖靈獎得主、30余位AI企業(yè)創(chuàng)始人&CEO、100余位全球青年科學家、200余位人工智能頂尖學者和產業(yè)專家。大會設置20個論壇共計180余場報告,覆蓋多模態(tài)、深度推理、下一代AI路徑、Agent智能體、具身智能、AI4S、AI產業(yè)、AI安全、AI開源等關鍵議題。此外,大會還首次聯(lián)合Pytorch舉辦Pytorch Day China,并特別搭建了智源AI科研成果互動體驗展臺,吸引大量參會者駐足體驗,現(xiàn)場氣氛熱烈。
作為國內領先的國產GPU企業(yè),摩爾線程通過精彩的技術演講、圓桌探討及產品展示,全方位展現(xiàn)其在AI訓練與推理、開源生態(tài)、具身智能等領域的創(chuàng)新成果,并通過與智源研究院的深度合作,不斷夯實國產算力發(fā)展的技術基礎。
在PyTorch Day China上,摩爾線程算法工程師莫凡在會上發(fā)表題為《A torch.fx Based Compression Toolkit Empowered by torch musa》的技術演講,介紹了摩爾線程在PyTorch生態(tài)中的技術創(chuàng)新成果。他詳細闡述了摩爾線程MUSA架構及Torch-MUSA的先進性,并重點講解了基于torch.fx的模型壓縮工具NeuroTrim。該工具創(chuàng)新性支持FP8精度量化,能在不同任務中智能權衡性能與精度,顯著提升模型推理效率,加速AI部署。未來,NeuroTrim將進一步拓展應用于大語言模型(LLM)和視覺語言模型(VLM),引入容錯機制與更快量化速度,為開發(fā)者提供更高效、更可靠的工具支持。
在具身技術與產業(yè)應用論壇上,摩爾線程GPU計算軟件開發(fā)總監(jiān)吳慶參與了主題為“從Demo到產品:具身智能的最后一公里”的圓桌討論,他強調了底層算力對具身智能產業(yè)化的重要性,并分享了摩爾線程在芯片設計、基礎軟件棧研發(fā)、開發(fā)優(yōu)化工具鏈構建、軟件生態(tài)開放共建及提升軟硬件易用性上的思考和創(chuàng)新實踐。通過芯片軟硬件協(xié)同設計及優(yōu)化、提供開箱即用的開發(fā)工具鏈、構建云邊端一體化解決方案等路徑,摩爾線程全功能GPU能夠為低功耗、高算力、高穩(wěn)定性的應用場景(如人形機器人)提供核心支撐。同時,摩爾線程也在積極攜手產業(yè)鏈伙伴,共同探索具身智能技術的應用落地與產業(yè)發(fā)展。
作為國產算力的中堅力量,摩爾線程與智源研究院建立了深度合作關系。
近期,智源研究院與摩爾線程開展的聯(lián)合調優(yōu)工作取得了顯著成果,得益于FlagScale框架出色的自動調優(yōu)優(yōu)化能力,以及摩爾線程全功能GPU完善的適配和兼容能力,雙方聯(lián)合優(yōu)化實現(xiàn)了近40%的性能提升,為國產算力支持大模型訓練與推理樹立了標桿。
自2023年起,摩爾線程全面參與智源研究院自主軟件棧FlagOS生態(tài)打造,攜手產業(yè)上下游合作伙伴,共同解決大模型訓練和推理中算子庫標準不相同、技術生態(tài)難兼容等問題,包括參與FlagGems算子庫開發(fā)與適配、FlagTree多后端統(tǒng)一編譯器聯(lián)合設計、FlagScale高效并行訓推框架適配與應用等,基于統(tǒng)一、開源開放的自主軟件棧加速產業(yè)協(xié)同創(chuàng)新。
值得一提的是,在摩爾線程夸娥(KUAE)千卡智算集群上,雙方成功完成了Aquila-VL-2B多模態(tài)模型的端到端訓練,模型性能達到了業(yè)界領先水平(SOTA),有力驗證了國產GPU算力平臺的可靠性和先進性。
通過與智源研究院等頂尖機構的持續(xù)深入合作,摩爾線程旨在為國產算力生態(tài)建設提供強有力的支持,為人工智能產業(yè)發(fā)展筑牢算力根基。未來,摩爾線程將繼續(xù)提升自身技術實力,深化與各界伙伴的關系,共同打造更加完善的國產AI生態(tài),為構建更加智能、高效的未來世界貢獻力量。