當(dāng)前AI領(lǐng)域的發(fā)展格局正由大型語言模型(LLMs)的迅猛增長(zhǎng)所主導(dǎo)。雖然云端對(duì)于這些超大規(guī)模模型的訓(xùn)練依然至關(guān)重要,但一個(gè)顯著的轉(zhuǎn)變正在發(fā)生:AI推理正從集中式數(shù)據(jù)中心向網(wǎng)絡(luò)邊緣和終端設(shè)備遷移。這一趨勢(shì)涵蓋了從5G基礎(chǔ)設(shè)施到汽車、安防攝像頭和手機(jī)等終端設(shè)備在內(nèi)的廣泛領(lǐng)域。
作為 Rambus 行業(yè)領(lǐng)先的接口和安全數(shù)字 IP 產(chǎn)品組合的最新成員,GDDR7 內(nèi)存控制器將為下一波AI推理浪潮中的服務(wù)器和客戶端提供所需的突破性內(nèi)存吞吐量。