隨著人工智能對(duì)算力的需求不斷增加，有關(guān)大規(guī)模算力集群的話(huà)題成為熱點(diǎn)之一。ChatGPT-3.5的參數(shù)規(guī)模約為1750億，GPT-4已經(jīng)迅速膨脹至1.8萬(wàn)億。而隨著行業(yè)模型的發(fā)展，邊緣與端側(cè)的算力需求也在不斷攀升。如果說(shuō)此前是千卡集群、萬(wàn)卡集群，去年已經(jīng)有人提出兩萬(wàn)卡集群、五萬(wàn)卡集群，未來(lái)出現(xiàn)十萬(wàn)卡集群，甚至更多，也不奇怪。換句話(huà)說(shuō)，大規(guī)模算力集群已成為全球大模型競(jìng)爭(zhēng)的必要基礎(chǔ)設(shè)施。隨著萬(wàn)卡集群時(shí)代的到來(lái)，數(shù)據(jù)中心將面臨一系列全新挑戰(zhàn)，很多關(guān)鍵問(wèn)題也需要厘清。

首先需要厘清的問(wèn)題是，芯片的性能并不等于智算集群的性能?，F(xiàn)在國(guó)內(nèi)很多區(qū)域都規(guī)劃了大型的算力中心。這些中心動(dòng)輒號(hào)稱(chēng)算力達(dá)到100EFlops。其基本思考邏輯是集合了數(shù)個(gè)區(qū)域算力集群，比如A地有8000臺(tái)A100服務(wù)器，算力20EFlops；B地有6000臺(tái)，算力15EFlops；C地12000臺(tái)，算力30EFlops；D地14000臺(tái)，算力35EFlops。如果將這4個(gè)區(qū)域的算力相加，得出的總算力就達(dá)到了100EFlops。

可實(shí)際上，一個(gè)地方的算力規(guī)模與實(shí)際輸出并不完全相等。這就像計(jì)算一個(gè)發(fā)電廠的總裝機(jī)容量，實(shí)際發(fā)電量總會(huì)受到諸多客觀因素的影響，很難實(shí)現(xiàn)完全相等的程度。計(jì)算一個(gè)地方的實(shí)際算力輸出，也不能對(duì)區(qū)域內(nèi)算力建設(shè)規(guī)模進(jìn)行簡(jiǎn)單地求和。阿里云智能集團(tuán)副總裁安筱鵬就指出，總集群算力和單卡算力之間并不是一個(gè)線(xiàn)性關(guān)系。大規(guī)模算力集群除了要考慮GPU算力之外，還要考慮高性能網(wǎng)絡(luò)建設(shè)能否跟上，并行任務(wù)調(diào)度資源的優(yōu)化能力能否滿(mǎn)足算力集群的需求；訓(xùn)練過(guò)程中如何對(duì)各種故障進(jìn)行實(shí)時(shí)精準(zhǔn)地響應(yīng)，這需要從秒級(jí)演進(jìn)到毫秒級(jí)的躍升；智算級(jí)運(yùn)維體系能否有效建立等。

當(dāng)人們面對(duì)一個(gè)參數(shù)萬(wàn)億、數(shù)十萬(wàn)億參數(shù)的模型訓(xùn)練的時(shí)候，需要的是一個(gè)超萬(wàn)卡集群的運(yùn)算能力。如何有效構(gòu)建將是一個(gè)重要挑戰(zhàn)。目前，社會(huì)上的算力資源過(guò)于分散，訓(xùn)練的生態(tài)也不夠開(kāi)放，很多算力還不能以公共云的方式提供服務(wù)。這些都是我們面臨的挑戰(zhàn)。

其次，正是由于算力集群受到多方面因素的影響，算力的構(gòu)建也要進(jìn)行多方面的考量。對(duì)于當(dāng)前的人工智能芯片來(lái)說(shuō)，技術(shù)路線(xiàn)仍處于快速迭代和演進(jìn)之中，算力集群面對(duì)將是越來(lái)越復(fù)雜的需求，一味地堆算力并不是唯一的選擇。英特爾公司高級(jí)副總裁兼網(wǎng)絡(luò)與邊緣事業(yè)部總經(jīng)理Sachin Katti在接受筆者采訪就表示，在討論算力時(shí)，除了優(yōu)化算力、軟件生態(tài)等之外，一個(gè)關(guān)鍵問(wèn)題就是功耗，特別是當(dāng)它在邊緣部署的時(shí)候。邊緣端部署設(shè)備能耗可能約為200W；云端部署的能耗可能在1k至2kW，而數(shù)據(jù)中心的單層機(jī)架能耗可能高達(dá)100kW。如果將整個(gè)數(shù)據(jù)中心的能耗累加起來(lái)，可能會(huì)達(dá)到50G至100GW的規(guī)模。此外，正是由于AI設(shè)備的高能耗，必須考慮相應(yīng)的冷卻效率和冷卻能力，這是一個(gè)關(guān)鍵的變量。目前，業(yè)界已采用液冷技術(shù)對(duì)機(jī)群進(jìn)行有效降溫?，F(xiàn)有的液冷技術(shù)已經(jīng)能夠?yàn)?00kW的機(jī)群降溫，未來(lái)有望擴(kuò)展到300kW。因此，冷卻技術(shù)也是限制算力部署的一個(gè)重要因素。

英特爾中國(guó)區(qū)網(wǎng)絡(luò)與邊緣事業(yè)部首席技術(shù)官?gòu)堄顒t強(qiáng)調(diào)了算力部署時(shí)應(yīng)該邊緣側(cè)的碎片化特性。隨著人工智能賦能千行百業(yè)，不同應(yīng)用對(duì)算力的需求不同，跨度非常大。高性能要求的需要算力集群承載，算力需求不強(qiáng)的一個(gè)或幾個(gè)設(shè)備就能夠承載，同時(shí)需要軟件平臺(tái)的配合。對(duì)于中國(guó)來(lái)說(shuō)，建設(shè)大規(guī)模的算力集群，乃至于構(gòu)建一個(gè)算力體系，應(yīng)該是一個(gè)開(kāi)放的，涵蓋芯片、軟件、算子庫(kù)、調(diào)度系統(tǒng)、訓(xùn)練系統(tǒng)的，更加開(kāi)放兼容的體系。

第三個(gè)需要厘清的問(wèn)題是，對(duì)于一個(gè)算力集群來(lái)說(shuō)，技術(shù)上可用并不等于商業(yè)上也可行。相關(guān)運(yùn)營(yíng)者需要探索可持續(xù)運(yùn)營(yíng)之路。目前，全球大模型訓(xùn)練理推成本持續(xù)攀升。有人估算，未來(lái)幾年大模型的訓(xùn)練成本將達(dá)百億美元量級(jí)。全球領(lǐng)先AI公司未來(lái)兩到三年，在算力上的投資達(dá)到數(shù)百億美元。如此之高的訓(xùn)練推理成本，商業(yè)回報(bào)如果實(shí)現(xiàn)？需要探討商業(yè)上的可行路徑。

安筱鵬指出，當(dāng)前人們對(duì)算力的需求大致分成兩個(gè)方向：對(duì)于訓(xùn)練，需要海量的數(shù)據(jù)處理能力、集群通信能力以及任務(wù)調(diào)度優(yōu)化；對(duì)于推理應(yīng)用，還需要更多考慮性?xún)r(jià)比、低時(shí)延、彈性運(yùn)算等問(wèn)題。算力集群要能夠構(gòu)建一個(gè)可回報(bào)的商業(yè)模式，實(shí)現(xiàn)算力基礎(chǔ)設(shè)施從能用到好用、易用、普惠、人人可用的問(wèn)題。

針對(duì)數(shù)據(jù)中心運(yùn)營(yíng)的能耗成本，世紀(jì)互聯(lián)AIDC產(chǎn)品解決方案總經(jīng)理程漢生特別強(qiáng)調(diào)了在西部地區(qū)建設(shè)數(shù)據(jù)中心的優(yōu)勢(shì)。他指出，隨著大模型時(shí)代算力需求不斷高漲，電力消耗已經(jīng)成為一個(gè)不容忽視的問(wèn)題。而數(shù)據(jù)中心作為高載能用戶(hù)，對(duì)能源的需求尤為顯著。而西部地區(qū)優(yōu)勢(shì)突出，一方面，西部地區(qū)常年氣溫較低，為數(shù)據(jù)中心的高效散熱提供了得天獨(dú)厚的條件；另一方面，西部地區(qū)豐富的風(fēng)能和太陽(yáng)能資源為數(shù)據(jù)中心提供了可靠的能源供應(yīng)，可以有效降低運(yùn)營(yíng)成本，為數(shù)據(jù)中心的綠色運(yùn)營(yíng)提供有力保障。