GDDR7作為顯存領(lǐng)域的革命性產(chǎn)品，自2024年3月JEDEC（固態(tài)存儲(chǔ)協(xié)會(huì)）發(fā)布其正式標(biāo)準(zhǔn)和規(guī)范后，GDDR7其正以高性能特性在越來(lái)越多的人工智能應(yīng)用場(chǎng)景中發(fā)揮積極作用。
集微網(wǎng)日前就“GDDR7賦能AI推理”話題與Rambus半導(dǎo)體IP產(chǎn)品管理總監(jiān)Nidish Kamath作交流，探討其面對(duì)新一代技術(shù)標(biāo)準(zhǔn)的前瞻觀點(diǎn)，以及如何塑造AI 2.0世界。
AI推理堆高內(nèi)存挑戰(zhàn)
人工智能浪潮之下，GPT-4在內(nèi)大型語(yǔ)言模型（LLM），正以日趨復(fù)雜的特性對(duì)現(xiàn)有內(nèi)存技術(shù)構(gòu)成重大挑戰(zhàn)，要求更大的容量、更高的帶寬、更低的延遲以及更優(yōu)的能效。Nidish Kamath認(rèn)為，AI的進(jìn)一步成熟將對(duì)內(nèi)存提出更多訴求，而核心挑戰(zhàn)是提供更高性能的同時(shí)實(shí)現(xiàn)更佳能效。內(nèi)存與互連技術(shù)將在此扮演關(guān)鍵角色，如果處理器要運(yùn)行得更快，那么也必須同樣地加速數(shù)據(jù)傳輸。
另一個(gè)關(guān)鍵挑戰(zhàn)是，在處理器與內(nèi)存之間，以及處理器與處理器之間的通道和鏈路上，以更高數(shù)據(jù)速率實(shí)現(xiàn)可靠的數(shù)據(jù)傳輸，這是新技術(shù)大有可為的領(lǐng)域——Multi-PAM信令技術(shù)就是可能被采用以支持?jǐn)?shù)據(jù)速率持續(xù)提升的一個(gè)技術(shù)范例。
而對(duì)于內(nèi)存可靠性而言，提升單芯片的比特密度也是一項(xiàng)挑戰(zhàn)。因?yàn)殡S著存儲(chǔ)單元微縮以在芯片上容納更多比特，需要管控其他一些效應(yīng)，其中包括片上錯(cuò)誤；此外，還需應(yīng)對(duì)諸如“RowHammer”和“RowPress”等其他效應(yīng)，在這些效應(yīng)下，對(duì)特定單元的訪問(wèn)可能會(huì)干擾鄰近區(qū)域的單元。
在此背景下，業(yè)界開(kāi)始關(guān)注新一代GDDR技術(shù)。根據(jù)JEDEC?發(fā)布的標(biāo)準(zhǔn)和規(guī)范，GDDR7規(guī)范可提供高達(dá)每引腳48 Gbps的速度（遠(yuǎn)高于GDDR6和GDDR6X的24?Gbps），以及每設(shè)備192 GB/s的帶寬。除游戲領(lǐng)域，GDDR已成為AI加速器和GPU的重要解決方案，用以處理AI推理等要求嚴(yán)苛的工作負(fù)載，最新一代的GPU和AI系統(tǒng)正利用GDDR7滿足這些高級(jí)應(yīng)用的性能需求。
眼下，GDDR7正獲得廣泛的市場(chǎng)應(yīng)用，三星（Samsung）和美光（Micron）等內(nèi)存供應(yīng)商已推出GDDR7產(chǎn)品。2024年，三星宣布已開(kāi)發(fā)出業(yè)界首款24Gb GDDR7 DRAM，該產(chǎn)品還采用脈沖幅度調(diào)制（PAM3）信號(hào)技術(shù)，使其速度在圖形DRAM中達(dá)到40Gbps，與前代產(chǎn)品相比提高25%。
隨著AI推理應(yīng)用日益普及，并從數(shù)據(jù)中心擴(kuò)展至邊緣及端點(diǎn)設(shè)備，整個(gè)計(jì)算領(lǐng)域都需要更強(qiáng)大的處理引擎，以及為其量身定制的高性能內(nèi)存解決方案。
“GPU向來(lái)是首選的推理引擎，在服務(wù)器和臺(tái)式機(jī)等邊緣與終端應(yīng)用中，這些GPU過(guò)去一直使用GDDR6內(nèi)存。然而，GDDR6在24 Gbps的數(shù)據(jù)速率下已達(dá)到標(biāo)準(zhǔn)NRZ信令的實(shí)際極限，”Nidish Kamath強(qiáng)調(diào)，為滿足未來(lái)GPU的帶寬需求，采用全新信令方案的新一代GDDR勢(shì)在必行——應(yīng)用PAM3信令的GDDR7內(nèi)存應(yīng)運(yùn)而生，可將數(shù)據(jù)速率一舉提升至40 Gbps乃至更高水平。
巨頭加持GDDR7走勢(shì)向好
那么，哪些應(yīng)用有望率先采用GDDR7？Nidish Kamath向集微網(wǎng)表示，至少AI/ML、數(shù)據(jù)中心和云計(jì)算、汽車(chē)行業(yè)、高性能計(jì)算等領(lǐng)域?qū)⒙氏瓤吹紾DDR7發(fā)揮作用：
① AI/ML：AI與ML應(yīng)用需要高速處理海量數(shù)據(jù)集。GDDR7所提升的性能將有助于加速AI模型的訓(xùn)練與推理過(guò)程。隨著AI在電信、機(jī)器人、汽車(chē)等領(lǐng)域的應(yīng)用不斷擴(kuò)展，GDDR7的重要性將愈發(fā)凸顯。
② 數(shù)據(jù)中心和云計(jì)算：隨著全球云服務(wù)需求的持續(xù)增長(zhǎng)，數(shù)據(jù)中心需要更高效、更快速的內(nèi)存解決方案。GDDR7將在增強(qiáng)服務(wù)器性能方面扮演關(guān)鍵角色，從而提升云計(jì)算服務(wù)的效率與可靠性。
③ 汽車(chē)行業(yè)：對(duì)于處理自動(dòng)駕駛汽車(chē)中傳感器和攝像頭所產(chǎn)生的海量數(shù)據(jù)而言，GDDR7將至關(guān)重要，它能有效提升車(chē)輛的決策能力與整體安全性。
④ 高性能計(jì)算：科學(xué)模擬、金融建模及其他HPC應(yīng)用都需要強(qiáng)大的計(jì)算能力。GDDR7的卓越性能可為用于科學(xué)研究、模擬和復(fù)雜計(jì)算的HPC系統(tǒng)帶來(lái)顯著助益。
市調(diào)機(jī)構(gòu)認(rèn)為，2025年，三星將持續(xù)于GDDR7生產(chǎn)時(shí)程與產(chǎn)能擴(kuò)充領(lǐng)先，市占率高達(dá)70%，英偉達(dá)亦對(duì)三星制造的GDDR7高度依賴(lài)。在這種供應(yīng)格局下，預(yù)期未來(lái)GDDR7價(jià)格波動(dòng)幅度將會(huì)收斂，走勢(shì)呈現(xiàn)持平或小幅上漲。
AI 2.0浪潮中的GDDR7
顯而易見(jiàn)，GDDR7的廣泛采用將有助于降低AI推理延遲，以其增強(qiáng)的內(nèi)存容量和帶寬支持更大、更復(fù)雜的模型，并改善內(nèi)存系統(tǒng)的能效。面對(duì)這一重要技術(shù)，Rambus推出了GDDR7內(nèi)存控制器IP，提供業(yè)界領(lǐng)先的GDDR7性能，每引腳速率高達(dá)40 Gbps，每個(gè)GDDR7內(nèi)存設(shè)備可提供160 GB/s的可用帶寬。
Nidish Kamath介紹，Rambus的GDDR7控制器核專(zhuān)為需要高內(nèi)存吞吐量、高時(shí)鐘頻率和完全可編程性的應(yīng)用而設(shè)計(jì)。該控制器核通過(guò)AXI接口或簡(jiǎn)單的本地接口接受命令，并將其轉(zhuǎn)換為GDDR7 SGRAM設(shè)備所需的命令序列，也支持所有低功耗模式。
此外，該核心使用先進(jìn)調(diào)度算法來(lái)重新排序隊(duì)列中的用戶(hù)請(qǐng)求，以此最大限度地提高總線效率，并減少DRAM訪問(wèn)規(guī)則造成的內(nèi)存總線空閑時(shí)間。核心在維持訪問(wèn)限制和一致性規(guī)則的同時(shí)，會(huì)選擇處理隊(duì)列中的下一個(gè)最佳請(qǐng)求，以此實(shí)現(xiàn)高效率，并將所有請(qǐng)求的延遲時(shí)間降至最低。
最后，Nidish Kamath以Rambus的角度談了內(nèi)存技術(shù)的未來(lái)發(fā)展：“伴隨全球AI‘民主化’趨勢(shì)的不斷發(fā)展，許多AI應(yīng)用正從數(shù)據(jù)中心擴(kuò)展至邊緣和端點(diǎn)，這對(duì)現(xiàn)有內(nèi)存系統(tǒng)在帶寬、延遲、容量等方面提出了日益增長(zhǎng)的需求。在AI 2.0的演進(jìn)浪潮中，Rambus在內(nèi)存接口芯片、內(nèi)存接口IP和安全I(xiàn)P解決方案方面具有深厚的專(zhuān)業(yè)知識(shí)，正與行業(yè)伙伴緊密合作，共同開(kāi)發(fā)尖端的內(nèi)存解決方案，以完全釋放人工智能技術(shù)的巨大潛力?！?/p>
