Jul. 30, 2024 ---- 隨著高速運(yùn)算的需求成長(zhǎng)，更有效的AI Server(AI服務(wù)器)散熱方案也受到重視。根據(jù)TrendForce集邦咨詢(xún)最新AI Server報(bào)告，由于NVIDIA(英偉達(dá))將在2024年底前推出新一代平臺(tái)Blackwell，屆時(shí)大型CSP(云端服務(wù)業(yè)者)也會(huì)開(kāi)始建置Blackwell新平臺(tái)的AI Server數(shù)據(jù)中心，預(yù)估有機(jī)會(huì)帶動(dòng)液冷散熱方案滲透率達(dá)10%。

氣冷、液冷并行方案滿(mǎn)足更高散熱需求

根據(jù)TrendForce集邦咨詢(xún)調(diào)查，NVIDIA Blackwell平臺(tái)將于2025年正式放量，取代既有的Hopper平臺(tái)、成為NVIDIA高端GPU(圖形處理器)主力方案，占整體高端產(chǎn)品近83%。在B200和GB200等追求高效能的AI Server機(jī)種，單顆GPU功耗可達(dá)1,000W以上。HGX機(jī)種每臺(tái)裝載8顆GPU，NVL機(jī)種每柜達(dá)36顆或72顆GPU，可觀(guān)的能耗將促進(jìn)AI Server散熱液冷供應(yīng)鏈的成長(zhǎng)。

TrendForce集邦咨詢(xún)表示，服務(wù)器芯片的熱設(shè)計(jì)功耗(Thermal Design Power, TDP)持續(xù)提高，如B200芯片的TDP將達(dá)1,000W，傳統(tǒng)氣冷散熱方案不足以滿(mǎn)足需求;GB200 NVL36及NVL72整機(jī)柜的TDP甚至將高達(dá)70kW及近140kW，需要搭配液冷方案方以有效解決散熱問(wèn)題。

據(jù)TrendForce集邦咨詢(xún)了解， GB200 NVL36架構(gòu)初期將以氣冷、液冷并行方案為主;NVL72因有更高散熱能力需求，原則上優(yōu)先使用液冷方案。

觀(guān)察現(xiàn)行GB200機(jī)柜系統(tǒng)液冷散熱供應(yīng)鏈，主要可分水冷板(Cold Plate)、冷卻分配系統(tǒng)(Coolant Distribution Unit, CDU)、分歧管(Manifold)、快接頭(Quick Disconnect, QD)和風(fēng)扇背門(mén)(Rear Door Heat Exchanger, RDHx)等五大零部件。

TrendForce集邦咨詢(xún)指出，CDU為其中的關(guān)鍵系統(tǒng)，負(fù)責(zé)調(diào)節(jié)冷卻劑的流量至整個(gè)系統(tǒng)，確保機(jī)柜溫度控制在預(yù)設(shè)的TDP范圍內(nèi)。TrendForce集邦咨詢(xún)觀(guān)察，目前針對(duì)NVIDIA AI方案，以Vertiv(維諦技術(shù))為主力CDU供應(yīng)商，奇鋐、雙鴻、臺(tái)達(dá)電和CoolIT等持續(xù)測(cè)試驗(yàn)證中。

2025年GB200出貨量估可達(dá)6萬(wàn)柜，促Blackwell平臺(tái)成市場(chǎng)主流、將占NVIDIA高端GPU逾8成

根據(jù)TrendForce集邦咨詢(xún)觀(guān)察，2025年NVIDIA將以HGX、GB200 Rack及MGX等多元組態(tài)AI Server，分攻CSPs及企業(yè)型客戶(hù)，預(yù)估這三個(gè)機(jī)種的出貨比例約為5:4:1。HGX平臺(tái)可較無(wú)縫對(duì)接現(xiàn)有Hopper平臺(tái)設(shè)計(jì)，使CSPs或大型企業(yè)客戶(hù)能迅速采用。GB200整柜AI Sever方案將以超大型CSPs為主打，TrendForce集邦咨詢(xún)預(yù)期NVIDIA將于2024年底先導(dǎo)入NVL36組態(tài)，以便快速進(jìn)入市場(chǎng)。NVL72因其AI Server整體設(shè)計(jì)及散熱系統(tǒng)較為復(fù)雜，預(yù)計(jì)將于2025年推出。

TrendForce集邦咨詢(xún)表示，在NVIDIA大力擴(kuò)展CSPs客群的情況下，預(yù)估2025年GB200折算NVL36合計(jì)出貨數(shù)量可望達(dá)6萬(wàn)柜，而GB200的Blackwell GPU用量可望達(dá)210-220萬(wàn)顆。

然而，終端客戶(hù)采用GB200 Rack的過(guò)程仍有幾項(xiàng)變量。TrendForce集邦咨詢(xún)指出，NVL72需較完善的液冷散熱方案，難度較高。而液冷機(jī)柜設(shè)計(jì)較適合新建數(shù)據(jù)中心，但會(huì)牽涉土地建物規(guī)劃等復(fù)雜程序。此外，CSPs可能不希望被單一供應(yīng)商綁住規(guī)格，可能會(huì)選擇HGX或MGX等搭載x86 CPU架構(gòu)的機(jī)種，或擴(kuò)大自研ASIC(專(zhuān)用集成電路)AI Server基礎(chǔ)設(shè)施，以應(yīng)對(duì)更低成本或特定AI應(yīng)用場(chǎng)景。