在2020年全球數(shù)字超算大會(SC20大會)上，NVIDIA宣布推出NVIDIA® Mellanox® 400G InfiniBand產品，這是全球第一代400Gb/s網(wǎng)速的端到端網(wǎng)絡解決方案，可為全球的AI和HPC用戶提供最快的網(wǎng)絡互連性能，同時將計算、可編程性和軟件定義三種技術成功地融于一體，成為業(yè)界領先的軟件定義、硬件加速的可編程網(wǎng)絡，為全球的科研人員和工程人員設計新一代計算系統(tǒng)和提升應用性能提供了新的思路。

NVIDIA Mellanox InfiniBand NDR產品是第7代的InfiniBand產品，利用100Gb/s的PAM4 Serdes技術, 實現(xiàn)了400Gb/s的單端口傳輸帶寬, 是上一代產品的兩倍, 同時通過添加更多、更強大的加速引擎，實現(xiàn)了更強大的計算和通信能力。

“Speed Of Light”是關于NDR InfiniBand技術的第一個特征，通過加倍的帶寬、更快的包處理能力(Message Rate)， 讓基于RDMA、GPU Direct RDMA和GPU Direct Storage等先進通信技術的應用性能得到了進一步提升。InfiniBand網(wǎng)絡是天然的SDN網(wǎng)絡，可以讓用戶根據(jù)應用的屬性來選擇各種不同的網(wǎng)絡拓撲，以達到最優(yōu)的性能，如Fat-Tree、DragonFly+、各種Torus等。如通過DragonFly+網(wǎng)絡拓撲可以在4個交換機Hop內達到一百萬個節(jié)點的同時通信，這個規(guī)模遠遠超出了E級機、甚至10E級機或百E級機需要的規(guī)模;同時其天然的SDN屬性也讓動態(tài)路由和網(wǎng)絡擁塞控制變得更容易實現(xiàn)。InfiniBand動態(tài)路由已經(jīng)被廣泛地應用到各種網(wǎng)絡拓撲當中，成為優(yōu)化通信性能的關鍵手段，如美國橡樹林國家實驗室的Summit超級計算機就通過動態(tài)路由將超算中心全網(wǎng)的通信效率從60%提升到了96%。NDR InfiniBand交換機在1U空間內可以支持64個400Gb/s的端口或128個200Gb/s的端口，是上一代交換機端口密度的3倍;它還將框式交換機系統(tǒng)的聚合雙向吞吐量提高了5倍，達到1.64 petabits/s，是全球端口數(shù)最多、交換容量最大的交換機。

硬件加速是InfiniBand網(wǎng)絡的最大特色，隨著越來越多的加速引擎被添加到InfiniBand硬件中來，進一步加大了其相對于其它網(wǎng)絡技術的領先性。如NDR InfiniBand實現(xiàn)了對于業(yè)界最頭疼的All2All和Allreduce通信的硬件卸載，能讓MPI通信的性能提升四倍。NDR InfiniBand對于MPI Tag Matching的硬件卸載，實現(xiàn)了1. 8倍的MPI通信性能提升。NDR InfiniBand可以實現(xiàn)對于NVMeoF的全面卸載， NVMeoF的Target卸載可以讓存儲系統(tǒng)在幾乎不消耗Target端CPU的前提下達到數(shù)以百萬級的IOPS，NVME SNAP可以實現(xiàn)對于NVMeoF的Initiator端的卸載，同時可以將InfiniBand網(wǎng)絡模擬成NVMe磁盤提供給主機CPU，可以解決目前很多OS還沒有NVMeoF的Initiator支持的問題，實現(xiàn)了對任何OS， 無論是虛擬化還是物理機的全面NVMeoF的支持;InfiniBand FIO SNAP可以實現(xiàn)對于文件存儲的本地模擬，讓任何OS都可以享受最先進的分布式文件存儲系統(tǒng)的性能優(yōu)勢。

InfiniBand SHARP (Scalable Hierarchical Aggregation and Reduction Protocol) 技術徹底消除了MPI或者NCCL的Allreduce操作中的多打一通信帶來的Incast Burst問題，在保證所有端口全線速、共計12.8Tb/s或25.6Tb/s的數(shù)據(jù)輸入的前提下，實現(xiàn)在交換機上的Allreduce、Barrier、Reduce和Broadcast計算，在NDR交換機上更是實現(xiàn)了相比上一代交換機32倍的計算性能提升。InfiniBand SHIELD (Self-Healing) 技術實現(xiàn)了網(wǎng)絡中鏈路故障的自修復，讓網(wǎng)絡無需等待管理軟件的參與來恢復鏈路故障，實現(xiàn)了比傳統(tǒng)的軟件故障恢復快千倍以上的性能，讓應用不再受困鏈路故障的干擾，提升應用的性能。

InfiniBand安全卸載是面向Cloud Native的應用場景，InfiniBand已經(jīng)得到了Open Stack的官方軟件支持，通過自帶的硬件IPSec、TLS、AES、Root of Trust等功能，可以讓數(shù)據(jù)不論是在網(wǎng)絡中流動時，還是在向存儲中落盤時都能以線速性能得到加解密，實現(xiàn)了在虛擬化環(huán)境或者在容器化環(huán)境中的安全保障。

軟件可編程讓InfiniBand的應用場景得到了進一步的延伸，可編程的NDR InfiniBand不僅可以讓用戶處理數(shù)據(jù)的header，還可以對于數(shù)據(jù)的數(shù)據(jù)路徑進行操作，如用戶可以自定義規(guī)則對于數(shù)據(jù)路徑進行操作;或是對于數(shù)據(jù)直接在網(wǎng)絡中進行預處理而無需送到CPU做預處理。用戶還可以對于數(shù)據(jù)的通信特征進行提取、然后利用AI技術對其進行訓練，得到不同應用數(shù)據(jù)的通用通信特征，如果發(fā)現(xiàn)有異常通信信息，可以向管理員主動發(fā)出預警。

NVIDIA Mellanox NDR 400G InfiniBand亮點

NDR InfiniBand以其優(yōu)異的性能和靈活廣泛的使用場景吸引了眾多的合作伙伴一起共建生態(tài)系統(tǒng)，包括Atos、戴爾科技、富士通、浪潮、聯(lián)想和SuperMicro等服務器廠商，以及DDN、IBM Storage等存儲廠商。各家公司都已開始研發(fā)其新一代產品，實現(xiàn)對于NDR InfiniBand的支持。而包括微軟Azure公有云、美國Los Alamos國家實驗室、歐洲Jülich超算中心等全球各頂級用戶都紛紛表示，期待能盡快應用NDR InfiniBand到他們的業(yè)務中去，享受NDR的技術優(yōu)勢。

NVIDIA網(wǎng)絡高級副總裁Gilad Shainer表示： “我們AI客戶最重要的工作就是處理日益復雜的應用程序，這需要更快速、更智能、更具擴展性的網(wǎng)絡。NVIDIA Mellanox 400G InfiniBand的海量吞吐量和智能加速引擎，幫助HPC、AI和超大規(guī)模云基礎設施以更低的成本和復雜性，實現(xiàn)無與倫比的性能?！?

E級AI和HPC時代已經(jīng)來臨，同時帶來新的挑戰(zhàn)，軟件定義、硬件加速、面向網(wǎng)絡計算的可編程NDR InfiniBand產品將于2021年第二季度提供樣品。NDR產品的出現(xiàn)，將會大幅提升E級AI和HPC系統(tǒng)的性能和效率，簡化系統(tǒng)的管理和操作，降低系統(tǒng)的TCO，進而保護數(shù)據(jù)中心的投資。