AI ASIC行業專題報告：算力需求高增，AI ASIC突圍在即.pdf

AI ASIC行業專題報告：算力需求高增，AI ASIC突圍在即。AI 算力需求高增，AI ASIC具備性價比、功耗等優勢，且軟硬件生態體系日趨成熟， 未來有望實現高速增長。

AI ASIC具備功耗、成本優勢，目前仍處于發展初期，市場規模有 望高速增長。目前ASIC在AI加速計算芯片市場占有率較低，預計 增速快于通用加速芯片。據Marvell預測， 2023年，定制芯片僅占 數據中心加速計算芯片的16%，其規模約66億美元，預計2028年 數據中心定制加速計算芯片規模有望超400億美元。

ASIC單卡算力與GPU仍有差距，但單卡性價比和集群算力效率優秀。ASIC 中算力相對較高的谷歌TPU v6和微軟Maia 100算力約 為H100非稀疏算力的90%、80%，同時ASIC的單價顯著低于GPU， 故而在推理場景呈現更高的性價比；ASIC的芯片互聯以PCIe協議 為主，處于追趕狀態，NVLink協議更具優勢；在服務器互聯方面， ASIC 主要采用以太網，正追平英偉達的IB網絡，目前H100集群 可以做到10萬卡規模，ASIC中谷歌TPU相對更為領先，TPU v5p 單個Pod可達8960顆芯片，借助軟件能力，TPUv5e可拓展至5萬 卡集群，且保持線性加速。由于ASIC 專為特定場景設計，且云廠 商對軟件生態掌握程度也較高，ASIC集群的算力利用率實際可能高 于GPU（如TPU、MTIA等）。

軟件生態也是影響AI計算能力的重要因素，當前CUDA生態占據 主導，ASIC 軟件生態有望逐步完善。云廠商普遍具備較強的研發 能力，均為AI ASIC研發了配套的全棧軟件生態，開發了一系列的 編譯器、底層中間件等，提升ASIC 在特定場景下的計算效率。此 外，一些商用芯片廠商也推出了開源平臺，如ROCm和oneAPI，未 來ASIC的軟件生態將會愈發成熟、開放。