罗远-万卡级智算集群网络建设运维及演进 终稿.pdf

万卡级智算集群网络建设运维

及演进

姓名：罗远

个人简介

罗远

科大讯飞股份有限公司

数据中心首席架构师，负责科大讯飞自有数据中心网络设计和架

构迭代工作，推动了讯飞数据中心从传统组网架构向云计算时代，

再到如今智算网络时代的转型，去年负责并落地了全国产万卡智

算集群的网络架构设计和实施运行

GOPS全球运维大会暨研运数智化技术峰会2024·上海站

大模型基础说明

万卡智算集群建设运维分享

目录

更大规模智算集群的演进思考

大模型基础说明

01

大模型发展、讯飞星火大模型、大模型介绍、训练集群并行方式

认知智能大模型的技术阶跃

认知大模型的智能涌现，有望让机器真正掌握和运用人类语言和知识，

开启机器自然语言交互式学习的“类人”新范式，点亮通向通用人工智能的星星之火！

ChatGPT发布相比ChatGPTSora发布，划时代

2个月，月活用户过亿GPT-4进步显著且的文本生成视频，深

具备多模态能力度模拟真实物理世界

2022年11月30日2023年3月15日2024年2月15日

GOPS全球运维大会暨研运数智化技术峰会2024·上海站

讯飞星火大模型

V4.0

2024年6月27日

V3.5全面对标GPT-4Turbo

语音、图文识别能力

2024年4月26日再升级

V3.5

春季上新

2024年1月30日首发OCR大模型

V3.0多项能力大幅提升长文本能力全新升级

2023年10月24日接近GPT-4Turbo