當(dāng)今人工智能的快速發(fā)展是以龐大的算力集群和網(wǎng)絡(luò)為支撐，而算力網(wǎng)絡(luò)的穩(wěn)定運(yùn)行又依托于檢測(cè)方案與設(shè)備。近日，是德科技發(fā)布全新KAI系列解決方案和三款新品測(cè)試設(shè)備。通過(guò)仿真真實(shí)世界的AI工作負(fù)載，對(duì)AI集群組件進(jìn)行驗(yàn)證，確保了AI數(shù)據(jù)中心網(wǎng)絡(luò)的可靠、出色運(yùn)行。

AI 浪潮席卷全球，算力網(wǎng)絡(luò)暗存瓶頸

今年年初，DeepSeek的發(fā)布將生成式人工智能從曲高和寡、更多關(guān)注技術(shù)演進(jìn)的狀態(tài)，變成一款實(shí)用性很強(qiáng)的工具。自從DeepSeek面世以來(lái)，很多企業(yè)機(jī)構(gòu)均開(kāi)始在小范圍內(nèi)使用這樣一款人工智能工具。根據(jù)Bloomberg統(tǒng)計(jì)，2022年AI市場(chǎng)大概在869億美元量級(jí)，到2030年將達(dá)到1.3萬(wàn)億美元規(guī)模。MarketsandMarkets預(yù)計(jì)，從2024年到2030年，AI市場(chǎng)的年增長(zhǎng)率將超過(guò)30%。IDC預(yù)測(cè)，到2030年人工智能將為全球經(jīng)濟(jì)貢獻(xiàn)19.9萬(wàn)億美元，占全球GDP的3.5%。

對(duì)此，是德科技大中華區(qū)高速數(shù)字市場(chǎng)部經(jīng)理李堅(jiān)指出，不僅僅是在未來(lái)的一到兩年，可能在五到十年的時(shí)間里，人工智能市場(chǎng)都將擁有快速增長(zhǎng)的機(jī)會(huì)。這種增長(zhǎng)機(jī)會(huì)不僅僅來(lái)自算力基礎(chǔ)設(shè)施，未來(lái)可能更多來(lái)自應(yīng)用和服務(wù)。

然而，在人工智能在快速發(fā)展的同時(shí)，我們也必須關(guān)注到人工智能算力網(wǎng)絡(luò)建設(shè)中所面臨的挑戰(zhàn)。首先，當(dāng)今行業(yè)內(nèi)進(jìn)行的是真正的大模型、大算力運(yùn)算。大算力的一個(gè)重要基礎(chǔ)就是大帶寬和大量的數(shù)據(jù)交換。底層則是由以太網(wǎng)、存儲(chǔ)、銅纜、PCIe接口等搭建而成的基礎(chǔ)設(shè)施。

如今以太網(wǎng)的量級(jí)標(biāo)準(zhǔn)大多為400/800G。樂(lè)觀估計(jì)，至2030年以前，以太網(wǎng)帶寬將上升到1.6/3.2T，增長(zhǎng)4-8倍。由于以太網(wǎng)更多是在各個(gè)超級(jí)節(jié)點(diǎn)之間進(jìn)行數(shù)據(jù)交換，隨著模型的增大，算力節(jié)點(diǎn)增多，需要更強(qiáng)的數(shù)據(jù)交換能力，對(duì)以太網(wǎng)的要求也會(huì)更高。

然而，隨著網(wǎng)絡(luò)帶寬的增大，大量器件將在接近其物理極限的性能下運(yùn)行，器件是否能夠穩(wěn)定工作成為問(wèn)題。很多器件在帶寬增大后功耗也隨之增加，進(jìn)而使器件溫度也隨之變化；一些器件對(duì)溫度高度敏感，特別是光學(xué)器件，溫度稍微有變，器件性能就會(huì)改變；其他器件也會(huì)因干擾出現(xiàn)各種各樣的問(wèn)題。

此外，當(dāng)今的數(shù)據(jù)中心進(jìn)行大模型計(jì)算所需服務(wù)器已經(jīng)不是幾百塊或者幾千塊計(jì)算卡，而是萬(wàn)卡集群、十萬(wàn)卡集群。在這樣大規(guī)模計(jì)算集群中，各個(gè)超級(jí)節(jié)點(diǎn)大量采用的是銅纜連接，而非傳統(tǒng)上PCB板傳遞信號(hào)，比如英偉達(dá)發(fā)布的NVL72機(jī)柜。這樣的環(huán)境下使用PCB板傳遞信號(hào)，損耗太大、干擾太大。算力中心的通信、數(shù)據(jù)交互也不再是簡(jiǎn)單的從客戶(hù)端到服務(wù)器的“南北”通信，各個(gè)節(jié)點(diǎn)之間都存在大量的橫向通信、“東西”通信。也就是說(shuō)，當(dāng)前我們面臨的是一個(gè)“全網(wǎng)絡(luò)”概念。在以往南北通信為主的情況下，一個(gè)節(jié)點(diǎn)的損壞可以由其他節(jié)點(diǎn)接入彌補(bǔ)。在全網(wǎng)絡(luò)的時(shí)代，斷掉一個(gè)節(jié)點(diǎn)，整個(gè)網(wǎng)絡(luò)的效率都可能出現(xiàn)問(wèn)題。

“實(shí)際情況是網(wǎng)絡(luò)越大往往意味著就越脆弱。這是目前整個(gè)產(chǎn)業(yè)界面臨的共同問(wèn)題。也就是說(shuō)，我們需要更好的仿真檢測(cè)方案，以增強(qiáng)網(wǎng)絡(luò)設(shè)計(jì)、網(wǎng)絡(luò)參數(shù)配置、網(wǎng)絡(luò)互連等方面的可靠性。”李堅(jiān)強(qiáng)調(diào)。

KAI 系列與三款新品，是德科技的解決方案

針對(duì)上述挑戰(zhàn)，是德科技近日發(fā)布了全新KAI（Keysight AI）系列端到端解決方案，旨在幫助用戶(hù)通過(guò)仿真真實(shí)世界的AI工作負(fù)載，來(lái)驗(yàn)證AI集群組件，從而擴(kuò)展數(shù)據(jù)中心的AI處理能力。同時(shí)，是德科技還推出了三款新品：AI數(shù)據(jù)中心構(gòu)建器、互連與網(wǎng)絡(luò)性能測(cè)試儀、DCA-M采樣示波器，增強(qiáng)業(yè)界應(yīng)對(duì)AI算力網(wǎng)絡(luò)持續(xù)擴(kuò)展的新挑戰(zhàn)。

李堅(jiān)介紹，是德科技從1939年就開(kāi)始進(jìn)入檢測(cè)設(shè)備領(lǐng)域，已有80多年歷史，期間為用戶(hù)提供了各種各樣的檢測(cè)產(chǎn)品，包括信號(hào)源、頻譜儀、示波器等，并與英偉達(dá)、CISCO、Arista、Google、Microsoft等用戶(hù)和伙伴長(zhǎng)期合作。

根據(jù)自身經(jīng)驗(yàn)和客戶(hù)反饋，是德科技逐步豐富了AI數(shù)據(jù)中心或人工智能產(chǎn)品的產(chǎn)品矩陣。KAI解決方案就是在這種背景下所開(kāi)發(fā)，其基本涵蓋四大產(chǎn)品板塊，覆蓋數(shù)據(jù)中心中的主要應(yīng)用場(chǎng)景。

在計(jì)算應(yīng)用場(chǎng)景方面，KAI針對(duì)GPU板卡以及GPU和GPU之間通信可能用到PCIe傳輸接口，GPU和DDR或HBM等存儲(chǔ)單元之間可能用到的板卡組件上，同時(shí)包括部分設(shè)計(jì)軟件的檢測(cè)?；ミB場(chǎng)景方面，以前板卡內(nèi)部和板卡之間使用PCB傳輸信號(hào)，大算力數(shù)據(jù)中心改為使用銅纜或者光纜。KAI面對(duì)這種改變提供檢測(cè)方案。至于網(wǎng)絡(luò)場(chǎng)景，涉及GPU板卡間的網(wǎng)絡(luò)，從物理層到傳輸層、網(wǎng)絡(luò)層，乃至應(yīng)用層，KAI都可以提供檢測(cè)支持，解決網(wǎng)絡(luò)通信中遇到的各種問(wèn)題。在能效場(chǎng)景中，萬(wàn)卡集群的耗電量巨大。據(jù)估算，一個(gè)10萬(wàn)卡集群每年耗電量約為1.59太瓦時(shí)，按照美國(guó)電力的標(biāo)準(zhǔn)費(fèi)率0.78美元/千瓦時(shí)，每年的用電成本達(dá)到1.24億美元。數(shù)據(jù)中心設(shè)計(jì)之初就要考慮綠色節(jié)能，器件的節(jié)能效果，器件之間的轉(zhuǎn)換能耗都是需要考慮的因素。KAI解決方案針對(duì)以上四大場(chǎng)景，都提供了有效的檢測(cè)方案。

本次發(fā)布，是德科技還推出的三款新產(chǎn)品：一是KAI數(shù)據(jù)中心構(gòu)建器。這是一款仿真測(cè)試軟件。AI服務(wù)提供商使用各種并行處理策略來(lái)加速AI模型訓(xùn)練。KAI數(shù)據(jù)中心構(gòu)建器的工作負(fù)載模擬功能可以將大模型訓(xùn)練時(shí)所需要的工作負(fù)載集成到AI基礎(chǔ)設(shè)施組件的設(shè)計(jì)和驗(yàn)證中——包括網(wǎng)絡(luò)、主機(jī)和加速器，再現(xiàn)了真實(shí)AI訓(xùn)練任務(wù)的網(wǎng)絡(luò)通信模式。

二是互連與網(wǎng)絡(luò)性能測(cè)試儀。幾十年來(lái)，驗(yàn)證網(wǎng)絡(luò)互連性能需要手動(dòng)操作，耗費(fèi)大量時(shí)間。隨著AI和數(shù)據(jù)中心規(guī)模不斷增加，傳統(tǒng)測(cè)試方法已無(wú)法準(zhǔn)確預(yù)測(cè)。新的互連和網(wǎng)絡(luò)性能測(cè)試系統(tǒng)通過(guò)INPT-1600GE搭配ITS軟件，可以作為一個(gè)整體系統(tǒng)，智能地組織、存儲(chǔ)和使用數(shù)據(jù)，實(shí)現(xiàn)高速以太網(wǎng)網(wǎng)絡(luò)和AI數(shù)據(jù)中心中的互連自動(dòng)化驗(yàn)證。

三是DCA-M采樣示波器。未來(lái)，AI數(shù)據(jù)中心將采用1.6T光互連。這需要具有大帶寬、低噪聲和高靈敏度的精確測(cè)試設(shè)備才能予以支持。DCA-M采樣示波器可提供224 Gbps/通道的高速光信號(hào)分析，具有高光學(xué)測(cè)量靈敏度和集成時(shí)鐘恢復(fù)功能，支持120 GBaud的數(shù)據(jù)速率。

針對(duì)KAI解決方案以及三款檢測(cè)設(shè)備新品，李堅(jiān)表示：“我們希望形成一個(gè)全生命周期的解決方案，從客戶(hù)的預(yù)研、仿真、設(shè)計(jì)到初級(jí)的樣品測(cè)試，再到生產(chǎn)制造以及維護(hù)，都有方案進(jìn)行覆蓋。是德科技對(duì)AI產(chǎn)業(yè)的發(fā)展前景十分看好。目前的AI產(chǎn)業(yè)仍然處于成長(zhǎng)階段，遠(yuǎn)遠(yuǎn)沒(méi)有到達(dá)飽和?，F(xiàn)在的AI算力網(wǎng)絡(luò)里還存在許多問(wèn)題需要解決，從物理層到網(wǎng)絡(luò)層。這也是本次是德科技如此大規(guī)模地推出產(chǎn)品解決方案的初衷，希望助力AI產(chǎn)業(yè)取得更好的發(fā)展?！?/p>