2024年AI服务器和AI PC趋势解读-38正式版.doc

2024年AI服务器和AIPC趋势解读

电子发烧友网

电子发烧友网编辑

电子发烧友网副主编章鹰

2024.07.01

1

数据中心、AI服务器市场趋势

AI服务器的发展挑战和质量检测

目录

AIPC市场规模和趋势

AIPC终端厂商和上游产业链

AIPC产业应用和生态

总结

2

数据中心、AI服务器市场趋势

数据中心

?数据中心按照算力可以分为三类：云数据中心、智算中心和超算中心。云数据中心面向众多应用场景和应用层级扩张；智算中心

以AI专用芯片为计算算力底座，以促进AI产业化和智能化为目标，面向AI典型应用场景；超算中心主要支持科学计算和工程计算

，主要由国家科技部布局建设。

?国内数据中心建设较全球起步晚，目前处于云中心深化阶段，向智能算力中心转型，总体处于成长期。

发烧友根据公开资料制图

4

生成式AI支出高速增长

?国际调研机构IDC统计，2023年全球生成式AI支出的市场规模预计为387.9亿美元，2027年全球生成式AI支出将达1454.2亿美元，

2023-2027年CAGR为55.3%。中国生成式AI支出将达到35.3亿美元，2027年预计中国生成式AI支持将达到129.3亿美元，2023-2027

年CAGR为54.1%。

?海外企业应用生成式AI意愿强烈。OpenAI首席运营官BradLightcap预测2024年是AI应用元年，目前已有超过60万人注册使用

ChatGPT企业版。6月11日，nAI在官网宣布与苹果达成技合作，将ChatGPT深度集成苹果产品矩阵中，包括最新的S、

iPadOS和macOS。苹果将语言模型集成到iPhone、Mac等设备中，算力从云端转移趋势出现。

数据来自IDC，电子发烧友制图数据来自IDC，电子发烧友制图

5

全球需求快速增长，国内AI服务器处于增长期

?根据Trendforce测算，2023年全球AI服务器出货量逾120.8万台，同比增长超过37.7%。这家机构预测，2024

年全球AI服务器整机出货量将达167.2万台，同比增长38.4%。台积电在Q1法说会上表示，AI需求的增长将以50%的

复合增长率持续至2028年，AI服务器需求增长也有望以较高速度持续至2028年。

?国际数据公司（IDC）与浪潮信息联合发布报告显示，2023年，中国人工智能服务器市场规模将达91亿美元，同比

增长82.5%；智能算力预计达到414.1EFLOPS百亿亿次浮点运算）增长59.3%，2022年到年，

年复合增长率达到39%。

数据来自Trendforce,电子发烧友制图图片：台电Q1财报

6

AI服务器分类

?按照用途区分，AI服务器分为训练和推理两大类别。训练用服务器对存储空间、带宽和算力的要求较高，主要采用

8-GPU设计；推理用服务器对算力、存储和带宽的要求相对较低，取决于业务场景，可以采用GPU、NPU、CPU等不

同芯片承担推理任务，可以采用PCLe接口的AI加速器实现推理任务。

?服务器随场景需求经历通用服务器-云服务器-边缘服务器-AI服务器四种模式，AI服务器采用GPU增强其并行计算能力

。CPU+GPU是AI服务器心部件。机柜级解决方成为未来AI服务器主流形式之一。

电子发烧友拍摄图片来自慧投研

7

AI服务器-上游产业链构成（一）

CPU+GPUHDD/SSDDRAM内存冷却方案电源

CPUGPU

英特尔

AMD

芯中科

英伟达

AMD

英特尔

寒武纪

三星

金士顿

威刚

三星、

SK海力士

美光

Auras

Technology

Sunon;

AVC

台达电子

艾默生

光宝科技

中国长城

欧陆通

Technology

AI服务器产业链上游为基础设施供应商，包括芯片CPU、GPU，存储（内存DRAM和内存接口及HBM，

存储SSD），被动元器、智能网卡、机箱、、散热、电源等。

8

AI服务器-上游产业链构成（二）

固态硬盘PCB散热器被动元器件互联网接口

质量检测

三星

金士顿

威刚

鹏鼎控股

东山精密

技

台达电子

富士康

AEC

村田

TDK

太阳诱电

英伟达

TI

蔡司

是德科技

爱德万测试

福禄克

9

AI服务器中游和下游

国外厂商：Wiwynn、Supermicro

中游：ODM厂商

国内厂商：工业富联、广达、英业达、纬创、技嘉

中游：AI服务器厂

商

国外厂商：戴尔、思科、富士通、甲骨文（Oracle）

国内厂商：联想、浪潮、华为、新华三、德、思腾合力

AI服务器下游-应用

市场

企业类型：互联网企业、云计算企业、电信运营商、金融机构

其他类型：政门、数据中心服务商医疗领域

10

六AI服务器厂商

01