20240620-广发证券-半导体行业“AI的裂变时刻”系列12：从数据中心TCO角度看，GB200 NVL72性价比显著.pdfVIP

[Table_Page]行业专题研究|半导体

2024年6月20日

证券研究报告

[Table_Title]

“AI的裂变时刻”系列12

从数据中心TCO角度看，GB200NVL72性价比显著

[Tabl

分析师：王亮分析师：耿正

e_Author]SAC执证号：S0260519060001SAC执证号：S0260520090002

SFCCE.no:BFS478

021021

gfwangliang@gengzheng@

请注意，耿正并非香港证券及期货事务监察委员会的注册持牌人，不可在香港从事受监管活动。

[Table_Summary]

核心观点：

⚫TCO是CSP等厂商的重要考虑因素。从提供云服务的CSP厂商的角度来讲，考虑整体集群系统的计算效率、

能耗关系，因此对产品和解决方案能否提供更好的TCO（总体拥有成本；TotalCostofOwnership，TCO一次

性硬件投入CapEx+营运成本Opex）较为关注。TCO可结合算力租赁价格和利用率等因素，计算得出的ROI。

从CSP等厂商角度看，TCO和ROI表现如何是CSP等厂商考虑是否建设数据中心新集群和建设集群大小的

重要考虑因素。

⚫英伟达产品和解决方案预计比竞争对手GPU带来更好TCO。当前数据中心面临不同厂商供应的GPU方案、

同GPU厂商之间不同代际以及不同产品形式（如8卡服务器和Rack方案）等多种选择。GPU厂商之间的竞

争已经从在单卡能力上的竞争升级为对产品AI集群系统的算力、网络通信能力以及能耗效率的提升。复盘英伟

达的产品升级思路来看，公司产品系列从单GPU芯片性能升级到推出系统级解决方案平台，产品线也在朝着

为客户降低数据中心的TCO的角度而升级。根据英伟达CEO黄仁勋在2024年3月的ViewFromTheTop

会议上表示“即使竞争对手的芯片是免费的，就AI数据中心的TCO而言，也不够便宜”。

⚫GB200NVL72有利于降低AI集群功耗和TCO。液冷GB200NVL72机架可减少数据中心的碳足迹和能源消

耗。液冷增加了计算密度，减少了占地面积，并促进了与大型NVLink域架构的高带宽、低延迟GPU通信。根