通信行業超節點與Scale up網絡專題之英偉達：行業標桿，領先優勢建立在NVLink和NVLink Switch.pdf

通信行業超節點與Scale up網絡專題之英偉達：行業標桿，領先優勢建立在NVLink和NVLink Switch。大語言模型（LLM）參數規模從千億級向萬億級乃至十萬億級演進，跨服務器張量并行（TP）成為必然選 擇；此外混合專家（MoE）模型在 Transformer 架構 LLM 中的規?；瘧?，更使跨服務器專家并行（EP） 成為分布式訓練和推理的關鍵技術需求。為應對 TP 和 EP 對網絡帶寬與延遲的極為嚴苛的要求，構建超高 帶寬、超低延遲的 Scale up 網絡（縱向擴張網絡）成為業界主流技術路徑。

目前英偉達超節點已經推出成熟方案。2024-2026 年，英偉達陸續推出 GH200 NVL72、GB200/ GB300 NVL72、VR200 NVL72 三代超節點。

Hopper 架構開啟超節點 Scale up 初步探索。GH200 通過 NVLink 和 NVLink-C2C（Chip-to-Chip） 技術，使得每個 GPU 可以訪問其他所有 CPU 和 GPU 芯片的內存，實現 GPU 與 CPU 內存統一編址。

Blackwell 架構推動 Scale up 標準化。GB200 NVL72 將 Scale-up 規模穩定在 72 個 GPU/機柜，形 成可復制標準化方案。NVL72 由 18 個 Compute Tray（計算托架）和 9 個 Switch Tray（網絡交換托 架）構成。其中，Compute Tray 是計算核心單元，負責提供強大的計算能力；Switch Tray 是高速通 信樞紐，用于實現 GPU 之間的高速數據交換。NVL72 背板通過“NVLink5 私有協議 + 銅線纜”將 18 個 Compute Tray 中的 72 顆 B200 GPU 和 9 個 Switch Tray 中的 18 顆 NVSwitch 芯片進行滿帶 寬全連接。

Rubin架構推動Scale up方案帶寬倍增。2026年1月CES展會，英偉達發布Rubin架構VR200 NVL72。 其中 NVLink 6 Switch 實現單 GPU 的互連帶寬提升至 3.6 TB/s，上代為 1.8TB/s。Scale out 方面， Spectrum-6 交換機支持 CPO（共封裝光學）技術，將 32 個 1.6Tb/s 硅光光學引擎與交換芯片直接封 裝集成。

在超節點方案上，英偉達處于領先優勢。2024-2025 年，英偉達陸續推出 GH200 NVL72、GB200/ GB300 NVL72 等成熟超節點解決方案。根據大摩預測，2025 年英偉達 GB200/300 NVL72 出貨量約 2800 臺。展 望 2026-2027 年，英偉達計劃推出 Vera Rubin NVL144 和 Rubin Ultra NVL576。互聯 GPU 數將從 72 顆 進一步向 576 顆發展。屆時，英偉達將在新一代 Kyber 機架架構中引入 NVLink Switch Blade（NVLink 交 換機刀片），通過 PCB 中板替代傳統 5000+根有源銅纜?？梢钥吹?，Rubin Ultra NVL576 仍具有較強的工 程創新能力。