電子行業(yè)深度報(bào)告：超節(jié)點(diǎn)，國(guó)產(chǎn)算力進(jìn)攻的“矛”.pdf

電子行業(yè)深度報(bào)告：超節(jié)點(diǎn)，國(guó)產(chǎn)算力進(jìn)攻的“矛”。AI 發(fā)展的必經(jīng)之路：AI Infra 全面走向超節(jié)點(diǎn)時(shí)代。部分投資者認(rèn)為，超節(jié)點(diǎn)只是從八卡 向更多個(gè)算力卡升級(jí)的簡(jiǎn)單堆砌，而我們認(rèn)為超節(jié)點(diǎn)是訓(xùn)練側(cè)和推理側(cè)算力基礎(chǔ)設(shè)施發(fā) 展的必選項(xiàng)，是未來(lái)百萬(wàn)卡集群的基石。(1)訓(xùn)練側(cè)：隨著模型參數(shù)提升以及 MoE 架構(gòu)的 轉(zhuǎn)變，TP 和 EP 帶來(lái)大帶寬多頻次的互聯(lián)需求，超節(jié)點(diǎn)服務(wù)器可通過(guò)內(nèi)部高速總線(xiàn)互 連，能夠有效支撐并行計(jì)算任務(wù)，縮短大模型訓(xùn)練周期。(2)推理側(cè)：養(yǎng)“龍蝦”時(shí)代， 推理任務(wù)對(duì) KV Cache 緩存要求較高，超節(jié)點(diǎn)有效解決“內(nèi)存墻”問(wèn)題，且單 W 每秒生 成 Tokens 更高，在推理側(cè)更具性?xún)r(jià)比。(3)百萬(wàn)卡集群，Scale up 先行，超節(jié)點(diǎn)是未來(lái)大 規(guī)模集群的地基。

Scale up 協(xié)議走向開(kāi)源開(kāi)放，超節(jié)點(diǎn)助力國(guó)產(chǎn)卡“彎道超車(chē)”。超節(jié)點(diǎn)可分成整機(jī)柜超 節(jié)點(diǎn)、分機(jī)柜超節(jié)點(diǎn)、Matrix 超節(jié)點(diǎn)（級(jí)聯(lián)超節(jié)點(diǎn)），主要由計(jì)算節(jié)點(diǎn)、交換節(jié)點(diǎn)、 TOR 交換機(jī)、供電單元、供電母線(xiàn)、電纜橋架/正交背板、液冷散熱配套等單元組成。博 通、阿里為代表的廠(chǎng)商逐步發(fā)起開(kāi)放標(biāo)準(zhǔn)協(xié)議，打破 Scale up 協(xié)議相對(duì)封閉的競(jìng)爭(zhēng)格 局，加速超節(jié)點(diǎn)生態(tài)建設(shè)。盡管?chē)?guó)產(chǎn)芯片在制程上略有落后，以華為 384 與 GB200 NVL72 為例，單顆昇騰 910C 芯片 BF16 性能僅為 GB200 模組的 1/3，但通過(guò)超節(jié)點(diǎn)的 方式，單個(gè) 384 集群 BF16 性能總體則是 NVL72 的 1.7 倍。

超節(jié)點(diǎn)服務(wù)器帶來(lái)五大變化趨勢(shì)。(1)超節(jié)點(diǎn)新增 Scale up 需求，隨著 Scale up 域不斷擴(kuò) 大，帶動(dòng)交換芯片配比持續(xù)提升；(2)交換節(jié)點(diǎn)與計(jì)算節(jié)點(diǎn)之間需要高速互聯(lián)，伴隨算力 卡數(shù)量持續(xù)提升，逐步催生 PCB 背板、正交連接器需求；(3)超節(jié)點(diǎn)機(jī)柜高密化發(fā)展，功 耗持續(xù)提升帶動(dòng) 100%全液冷需求；(4)從 8 卡機(jī)到超節(jié)點(diǎn)，涉及網(wǎng)絡(luò)、供電、制冷等多個(gè) 環(huán)節(jié)，行業(yè)準(zhǔn)入門(mén)檻提升，價(jià)值留存環(huán)節(jié)增多，服務(wù)器 ODM廠(chǎng)商迎來(lái)價(jià)值重估；(5)超節(jié) 點(diǎn)重構(gòu)供電架構(gòu)，帶來(lái) PSU、HVDC、SST 需求。