人工智能安全治理框架-中文版+英文版.pdf

人工智能

安全治理框架

全国网络安全标准化技术委员会

2024年9月

目录

1.人工智能安全治理原则……1

2.人工智能安全治理框架构成………………2

3.人工智能安全风险分类……3

3.1 人工智能内生安全风险………………3

3.2 人工智能应用安全风险………………5

4.技术应对措施………………7

4.1 针对人工智能内生安全风险…………7

4.2 针对人工智能应用安全风险…………9

5.综合治理措施………………10

6.人工智能安全开发应用指引………………12

6.1 模型算法研发者安全开发指引………12

6.2 人工智能服务提供者安全指引………13

6.3 重点领域使用者安全应用指引………14

6.4 社会公众安全应用指引………………15

人工智能安全治理框架

人工智能安全治理框架

（V1.0）

人工智能是人类发展新领域，给世界带来巨大机遇，也带来各类风险挑战。

落实《全球人工智能治理倡议》，遵循“以人为本、智能向善”的发展方向，为

推动政府、国际组织、企业、科研院所、民间机构和社会公众等各方，就人工

智能安全治理达成共识、协调一致，有效防范化解人工智能安全风险，制定本

框架。

1.人工智能安全治理原则

秉持共同、综合、合作、可持续的安全观，坚持发展和安全并重，以促

进人工智能创新发展为第一要务，以有效防范化解人工智能安全风险为出发点

和落脚点，构建各方共同参与、技管结合、分工协作的治理机制，压实相关主

体安全责任，打造全过程全要素治理链条，培育安全、可靠、公平、透明的人

工智能技术研发和应用生态，推动人工智能健康发展和规范应用，切实维护国

家主权、安全和发展利益，保障公民、法人和其他组织的合法权益，确保人工

智能技术造福于人类。

1.1包容审慎、确保安全。鼓励发展创新，对人工智能研发及应用采取

包容态度。严守安全底线，对危害国家安全、社会公共利益、公众合法权益的

风险及时采取措施。

- 1 -

人工智能安全治理框架

1.2风险导向、敏捷治理。密切跟踪人工智能研发及应用趋势，从人工

智能技术自身、人工智能应用两方面分析梳理安全风险，提出针对性防范应对

措施。关注安全风险发展变化，快速动态精准调整治理措施，持续优化治理机

制和方式，对确需政府监管事项及时予以响应。

面向人工智能研发应用全过程，综合运用技术、

1.3技管结合、协同应对。

管理相结合的安全治理措施，防范应对不同类型安全风险。围绕人工智能研发

应用生态链，明确模型算法研发者、服务提供者、使用者等相关主体的安全责

任，有机发挥政府监管、行业自律、社会监督等治理机制作用。