存儲行業(yè)深度報告：AI服務(wù)器存儲量價齊升，算力需求推動HBM市場數(shù)倍增長.pdf

存儲行業(yè)深度報告：AI服務(wù)器存儲量價齊升，算力需求推動HBM市場數(shù)倍增長。AI 算力升級帶動服務(wù)器的 CPU 迭代并提升 GPU 需求，帶動 AI 服務(wù)器存儲容 量和價值量較傳統(tǒng)服務(wù)器數(shù)倍增長。訓(xùn)練型 AI 服務(wù)器中 GPU 承擔(dān)大部分算力， 算力要求推動了 HBM 等新型存儲器超百億美元新興市場，進而提升 Bumping、 TSV、CoWoS 等先進封裝工藝需求，并帶來減薄、鍵合、模塑、測試等設(shè)備以 及 EMC、電鍍液、PSPI 等材料的增量需求。疊加國內(nèi)自主可控需求持續(xù)增長， 國內(nèi)存儲及 HBM 等催生的先進封裝產(chǎn)業(yè)鏈發(fā)展空間巨大。

AI 服務(wù)器 CPU 和 GPU 隨算力需求而升級，對存儲器容量和價值量均有數(shù)倍 拉動。傳統(tǒng)服務(wù)器以 CPU 作為算力核心，隨著 AI 訓(xùn)練模型的算力要求不斷 提升，CPU 的核心數(shù)、主頻、線程數(shù)量均不斷提升，但僅靠 CPU 已經(jīng)無法 滿足算力需求，需要搭配 GPU 進行多線程數(shù)據(jù)處理，主流訓(xùn)練型服務(wù)器一般 搭配 8 個 GPU。AI 服務(wù)器用到的主要存儲器包括 CPU 內(nèi)存、GPU 顯存和硬 盤 NAND 等，存儲器容量和價值量均較普通服務(wù)器有數(shù)倍提升，1）DRAM： 英偉達訓(xùn)練型 AI 服務(wù)器中的 CPU DRAM 容量高達 2TB，另外單個 GPU 一 般搭載 80GB 以上的 HBM 存儲器，AI 服務(wù)器 HBM 總?cè)萘款A(yù)計超 640G，總 內(nèi)存容量相較普通服務(wù)器有 4-8 倍的提升，僅 CPU 內(nèi)存價值量預(yù)計有 5 倍的 提升，GPU 的 HBM 則為純增量市場；另外，服務(wù)器內(nèi)存也在不斷迭代，目 前普通的服務(wù)器均多配備 DDR4，但最先進的 AI 服務(wù)器已經(jīng)搭配了 DDR5 或 LPDDR5；2）NAND：AI 服務(wù)器的硬盤容量高達 30TB，相較傳統(tǒng)服務(wù)器提 升 2-4 倍，另外傳統(tǒng)服務(wù)器同時使用機械硬盤和固態(tài)硬盤（SSD），但 AI 服 務(wù)器基本全部使用 SSD，整體價值量較普通服務(wù)器預(yù)計提升 10 倍左右。

HBM 能夠突破訓(xùn)練型 AI 服務(wù)器的 GPU 帶寬極限，2024 年增量空間預(yù)計超 百億美元。HBM（High Bandwidth Memory）即高帶寬存儲器，是基于 2.5/3D 封裝技術(shù)的一種新型 CPU/GPU 內(nèi)存芯片，將 DRAM Die 垂直堆疊，Die 之 間通過 TSV 的方式連接。HBM 能夠以低功耗產(chǎn)生高帶寬，因此廣泛搭配訓(xùn) 練型 AI 服務(wù)器的 GPU 使用，訓(xùn)練型 AI 服務(wù)器對 HBM 需求的拉動主要體現(xiàn) 在：1）AI 服務(wù)器搭載 GPU 數(shù)量的提升：由普通服務(wù)器的 2 個提升至目前的 8 個；2）單個 GPU 搭載 HBM Stack 數(shù)量的提升：在 HBM1 方案中，單個 GPU 搭載 4 個 HBM1，而在目前 HBM2e 或 HBM3 方案中，一般單個 GPU 搭配 6 個 HBM Stack；3）HBM 堆疊的 DRAM 層數(shù)和容量增多：從 HBM1 到 HBM3，單個 DRAM Die 密度從 2Gb 提升至 16Gb，堆疊高度從 4Hi 提升 至 12Hi，單個 HBM 疊層容量從 1GB 提升至 24GB。Trendforce 預(yù)計 2025 年全球服務(wù)器出貨量為 1700 萬臺，當(dāng)前 AI 服務(wù)器滲透率大概不足 2%，假設(shè) 2024 年 AI 服務(wù)器滲透率約 4%，按照每個 AI 服務(wù)器搭載 8 個 GPU、每個 GPU 搭載 6 個共 80GB 至 100GB 及以上的 HBM Stack 的方案測算，那么 2024 年 AI 服務(wù)器帶來的 HBM 增量空間預(yù)計超百億美元。