亞馬遜新款A(yù)I芯片Trainium3上市 訓(xùn)練AI模型成本可降50%
12月3日消息,亞馬遜AWS宣布其新一代自研AI芯片Trainium3正式上市。
作為亞馬遜首款采用3nm制程的芯片,Trainium3在計算性能、能效與內(nèi)存帶寬上均實現(xiàn)顯著提升。
相比上一代,Trainium3計算性能最高提升4.4倍,能效提升4倍,內(nèi)存帶寬也接近翻兩番?;赥rainium3構(gòu)建的UltraServer系統(tǒng)支持互聯(lián)擴(kuò)展,單系統(tǒng)可容納144枚芯片,并為單個應(yīng)用提供多達(dá)100萬枚Trainium3芯片的算力支持,規(guī)模達(dá)到上一代的10倍。
亞馬遜表示,與采用圖形處理單元(GPU)的系統(tǒng)相比,使用Trainium3訓(xùn)練和運(yùn)行AI模型的成本可降低最多50%。
此外,亞馬遜已著手開發(fā)下一代產(chǎn)品Trainium4。據(jù)披露,Trainium4預(yù)計將帶來6倍的FP4計算性能、3倍的FP8性能,內(nèi)存帶寬和容量分別提升至4倍與2倍,并支持通過NVLink Fusion和UALink實現(xiàn)縱向擴(kuò)展。
對于與行業(yè)龍頭英偉達(dá)的關(guān)系,負(fù)責(zé)Trainium項目的AWS副總裁兼首席架構(gòu)師Ron Diamant明確表示:“我不認(rèn)為我們會試圖取代英偉達(dá)。”





