鳳凰網(wǎng)科技訊 8月15日,IDC 發(fā)布的統(tǒng)計(jì)數(shù)據(jù)顯示,2024年下半年中國(guó)大模型商用落地呈現(xiàn)爆發(fā)式增長(zhǎng),日均Tokens消耗量較此前增長(zhǎng)近10倍。2024年中國(guó)公有云大模型調(diào)用量累計(jì)達(dá)114.2萬億Tokens,且該數(shù)據(jù)不包含使用海外MaaS平臺(tái)的調(diào)用量。
隨著大模型商用進(jìn)程的加速,數(shù)據(jù)中心內(nèi)Token用量持續(xù)攀升激增,帶來了一系列連鎖反應(yīng)。東西向流量大幅增長(zhǎng)、通信能耗不斷加大,網(wǎng)絡(luò)正逐漸成為AI基礎(chǔ)設(shè)施的決定性瓶頸,制約著AI技術(shù)的進(jìn)一步發(fā)展與應(yīng)用。
在這樣的背景下,高端網(wǎng)絡(luò)硬件市場(chǎng)迎來快速發(fā)展。2024年,中國(guó)高端以太網(wǎng)(≥200G)端口出貨量突破600萬,IDC預(yù)測(cè),未來其將保持45.6%的復(fù)合增長(zhǎng)率,到2029年中國(guó)高端以太網(wǎng)端口出貨量將超過4300萬個(gè)。同時(shí),中國(guó)生成式AI相關(guān)網(wǎng)絡(luò)硬件支出也將持續(xù)加速,從2023年的65億元增長(zhǎng)到2028年的330億元,復(fù)合增長(zhǎng)率達(dá)到38.5%。
據(jù)此前?國(guó)家數(shù)據(jù)局?jǐn)?shù)據(jù)顯示,2024年初,中國(guó)日均Token的消耗量為1千億;截至今年6月底,日均Token消耗量已經(jīng)突破30萬億,1年半時(shí)間增長(zhǎng)了300多倍。