10月22日，AI基準(zhǔn)性能評(píng)測(cè)平臺(tái)MLPerf官網(wǎng)顯示，寧暢信息產(chǎn)業(yè)(北京)有限公司(以下簡(jiǎn)稱(chēng)“寧暢”)搭載NVIDIA T4_/A100 GPU卡的Nettrix X640 G30 AI服務(wù)器，在ResNet、BERT、DLRM等基準(zhǔn)測(cè)試中取得30項(xiàng)世界第一成績(jī)。

據(jù)報(bào)道，MLPerf是用于衡量AI、邊緣計(jì)算等設(shè)備性能的基準(zhǔn)測(cè)試平臺(tái)，由云服務(wù)廠商、OEM廠商、大學(xué)、軟件公司等超14個(gè)組織、50余家知名IT企業(yè)共同驅(qū)動(dòng)。該基準(zhǔn)測(cè)試包括可代表生產(chǎn)級(jí)別的測(cè)試用例，測(cè)試結(jié)果在行業(yè)內(nèi)具有較高權(quán)威性。

同配置測(cè)試獲16項(xiàng)世界第一

寧暢工程師介紹，參加MLPerf Inference(推理)基準(zhǔn)測(cè)試的X640 G30 AI服務(wù)器，最高可支持10張NVIDIA A100 PCIe卡或21張NVIDIA T4 PCIe卡，堪稱(chēng)“性能猛獸”。

圖說(shuō)：寧暢人工智能服務(wù)器X640 G30

對(duì)比行業(yè)同配置AI服務(wù)器，X640 G30搭載四張A100 GPU卡的情況下，在Resnet50、SSD、RNN-T、BERT、DLRM等10項(xiàng)測(cè)試中分?jǐn)?shù)值取得世界第一;搭載16張T4 GPU卡配置的情況下，X640 G30打破六項(xiàng)世界紀(jì)錄，性能一騎絕塵。

圖說(shuō)：16卡配置X640 G30部分測(cè)試分?jǐn)?shù)對(duì)比圖

相同配置下取得第一的MLPerf分?jǐn)?shù)，意味著X640 G30 在圖像分類(lèi)、目標(biāo)檢測(cè)、醫(yī)學(xué)影像、翻譯、推薦、自然語(yǔ)言處理等AI應(yīng)用場(chǎng)景中有更好性能表現(xiàn)，可為用戶帶來(lái)多高價(jià)值。

將多卡性能發(fā)揮到極致

AI服務(wù)器所能支持異構(gòu)計(jì)算GPU卡數(shù)量，是決定其AI吞吐量的首要因素。依托團(tuán)隊(duì)10余年行業(yè)經(jīng)驗(yàn)，寧暢率先在4U標(biāo)準(zhǔn)機(jī)箱中實(shí)現(xiàn)21張GPU卡配置，將多GPU卡性能優(yōu)勢(shì)發(fā)揮到極致。

搭配21張T4 GPU卡的X640 G30，在圖像分類(lèi)、語(yǔ)義識(shí)別等眾多AI基準(zhǔn)測(cè)試中，超越搭配20張T4 GPU卡配置的服務(wù)器，測(cè)試分?jǐn)?shù)斬獲14項(xiàng)世界第一。

圖說(shuō)：21卡配置X640 G30 MLPerf測(cè)試成績(jī)表

不僅多GPU卡的性能優(yōu)越，在單GPU卡平均性能方面(單卡平均性能=整機(jī)測(cè)試結(jié)果/搭載GPU卡個(gè)數(shù))，橫向比較13家服務(wù)器廠商提交MLPerf 的53個(gè)配置測(cè)試結(jié)果顯示，X640 G30服務(wù)器平均單卡性能獲得11項(xiàng)第一。

圖說(shuō)：X640 G30平均單卡測(cè)試分?jǐn)?shù)對(duì)比

寧暢工程師表示，寧暢服務(wù)器不僅在MLPerf平臺(tái)取得多項(xiàng)世界第一成績(jī)，今年早先時(shí)候?qū)帟畴p路服務(wù)器R620 G30，曾在反映服務(wù)器性能的SPEC CPU2017測(cè)試中，刷新24項(xiàng)世界紀(jì)錄。

世界紀(jì)錄的背后，是寧暢工程師為用戶提供更優(yōu)性價(jià)比產(chǎn)品，將CPU、GPU等服務(wù)器核心部件性能發(fā)揮到極致，所做的不懈努力。通過(guò)提供硬件、軟件等定制化服務(wù)，寧暢服務(wù)器將有效降低用戶TCO(總體擁有成本)。