金融数据中心人工智能算力建设指引 2023.pdfVIP

金融数据中心

人工智能算力建设指引

北京金融科技产业联盟

2023年8月

编制委员会

编委会成员：

王长江聂丽琴张海燕

编写组成员：

赵春华王妍娟葛金磊张浩然吴仲阳宋虎余学山

白阳符海芳李书建黄志鹏徐旭陆碧波薛亮

谭翔马庆杰李洁郭亮王月吴刚郭江波

吴战立雷昭燕袁智王伟锋李培彭晋李俊奎

杨海悌俞颖熙程归鹏张贯忠李鸿鹏宋飞玄凌博

郑鹏飞黎世勇王云凤

编审：

黄本涛周豫齐王妍娟张浩然

II

参编单位：

北京金融科技产业联盟秘书处

北京国家金融科技认证中心有限公司

中国工商银行股份有限公司

华为技术有限公司

浙江网商银行股份有限公司

中国信息通信研究院

腾讯云计算（北京）有限责任公司

新华三技术有限公司

蚂蚁科技集团股份有限公司

中科寒武纪科技股份有限公司

超聚变数字技术有限公司

北京百度网讯科技有限公司

III

前言

人工智能基础设施作为“新基建”的重要组成部分，是数字

化走向智能化的核心力量，是金融机构智慧再造的关键载体。近

年来，我国发布多项政策文件，进一步明确人工智能的发展规划，

对人工智能算力建设指出方向。2021年底，中国人民银行发布

《金融科技发展规划（2022—2025年）》，提出抓住全球人工智能

发展新机遇，以人为本全面推进智能技术在金融领域深化应用，

着力打造场景感知、人机协同、跨界融合的智慧金融新业态，实

现金融服务全生命周期智能化。

人工智能算力数据中心是以数据中心为基础的人工智能基

础设施。具体来说，人工智能数据中心是在超算中心和云计算数

据中心大规模并行计算和数据处理的技术架构基础之上，通过大

数据和深度学习技术保障其高效、安全运营，以人工智能专用芯

片为计算算力底座，融合公共算力服务、数据开放共享、智能生

态建设、产业创新聚集“四位一体”的综合平台，可提供算力、

数据和算法等人工智能全栈能力，是当前人工智能快速发展和应

用所依托的新型算力基础设施。“数据、算法、算力、开放平台”

是人工智能基础设施的核心内容，其中算力包括AI芯片、AI平

台、智能计算中心等产品，提供高性能、低成本、绿色的计算能

力是算力建设的关键目标。

本报告阐述了国内外人工智能算力建设情况，梳理了当前金

IV

融数据中心人工智能算力建设面临的挑战，从整体上提出人工智

能算力数据中心的架构，围绕基建、硬件及软件基础设施给出了

人工智能算力建设指引，并进一步分析了传统与新型算力、数据

中心算力与边缘算力、算力与网络等关键技术的协同建设问题，

探索了人工智能算力数据中心绿色低碳运维模式，最后通过成功

案例展望未来，以期为金融机构数据中心建设人工智能算力基础

设施提供指引与参考。

关键词：人工智能、AI算力、人工智能算力数据中心、AI使

能软件、AI开发框架

V

目录

第一章发展背景和研究目标1

一、发展背景1

（一）国家政策及“十四五”规划要求1

（二）金融科技发展的基础支撑4

（三）国内外当前AI算力建设情况4

二、研究目标9

第二章面临的挑战和难点10

一、整体看10

（一）数据中心AI算力发展不均衡10

（二）数据中心AI计算能力不足10

（三）数据中心AI算力连接和协同能力不强10

（四）数据中心AI算力调度不灵活11

二、分层看11

（一）数据中心选址问题（L0层）11

（二）能耗及供电问题（L1层）12

（三）AI算力底座与周边设备及网络的问题（L2层）12

（四）支持不同业务场景的AI应用问