创新友好人工智能监管：目标导向与实施体制.pdf

创新友好人工智能监管：

目标导向与实施体制

◎唐要家王钰

内容提要人工智能是一个动态创新的新技术，基于风险防控单一维度目标的

监管路径模式无法实现政府监管与创新发展的平衡，甚至会产生阻碍创新以及削弱

长期安全保障的风险。创新友好监管体制应成为人工智能监管的基本模式选择。

创新友好人工智能监管是以促进创新发展为根本原则，以最小化创新损害为监管政

策依据，通过不断完善和优化监管体制与治理体系，营造有利于人工智能创新发展

的生态，以实现监管与创新的动态最优匹配。具体而言，其是以可信人工智能为基

本目标，坚持基于风险的分级分类监管，着力构建创新友好监管行政体制，采用有利

于创新的监管政策工具。据此，中国人工智能监管体制完善的重点是制定基础性监

管法规以实现监管法治化，改革完善监管行政执法体制以提升监管正当化，建立系

统应用者主动治理激励制度以增强监管合规化，实现伦理治理的全过程内嵌以突出

监管软性化。

关键词人工智能风险创新友好监管可信人工智能监管实施体制

〔中图分类号〕Ｆ４９〔文献标识码〕Ａ〔文章编号〕０４４７－６６２Ｘ（２０２４）０９－０１２１－１０

人工智能（ＡＩ）是第四次产业革命的关键驱动力，它是一种破坏性技术进步，正在对经济社会产生重

大影响。人工智能应用不仅极大地促进了创新和经济高质量增长，而且促进了社会安全与社会和谐。

但人工智能应用也带来算法偏见、隐私侵犯、信息操纵等风险，引发了人们的广泛担忧，不信任成为影响

人工智能创新发展的重要障碍。因此，实行有效的人工智能监管成为应对风险的重要政策应对，其目的

是构建可信任的人工智能发展环境。目前，欧盟、美国、中国等经济体都在进行人工智能监管政策探索，

但如何构建监管与创新平衡的监管体制这一难题仍未得到解决。一方面人工智能技术发展带来的诸多

风险影响深刻，需要有效应对；另一方面人工智能技术是新质生产力发展的引擎，是国际科技竞争的关

键领域，需要维持强创新动力。由此，人工智能监管既要有效管控各种潜在的重大风险，也要释放创新

潜能，更好地促进创新发展，促进人工智能以有利于人类社会的方式创新发展。因此，如何构建创新友

好的监管体制成为迫切需要解决的重大问题。

基金项目：国家社会科学基金重大项目“双碳目标下我国新型能源监管体系构建与监管政策优化研究”（２３＆ＺＤ１０２）；国家

社会科学基金一般项目“常态化监管下数据与算法反垄断监管研究”（２３ＢＪＹ００３）

１２１

２０２４年第９期

一、人工智能开发应用的风险与最优监管路径

１．人工智能开发应用引发的主要风险

近年来，在大数据和算力技术快速发展的推动下，人工智能技术获得了快速发展和广泛应用，但同

时也引发了各界对其潜在风险的担忧。总体来说，人工智能系统应用可能带来如下主要风险：一是个人

隐私侵犯风险。人工智能的发展使消费者使用的各种设备和在线活动面临更高的隐私数据泄露风险。

二是个人身体或心理损害风险。人工智能应用者可能会利用其来强化对人的行为引导和心理暗示，如

在线服务中的消费上瘾、算法劳动者监督等，这会对人的身体或心理健康产生损害。三是竞争与创新损

害风险。人工智能为企业实施算法合谋、算法个人化定价、算法自我优待等垄断行为提供了新的手段，

从而会扭曲市场竞争。同时，生成式人工智能的发展会带来知识产权侵权问题，从而产生扼杀原始创新

的风险。四是社会公平风险。人工智能在就业、招生、司法等领域的应用可能会对特定群体产生严重的

不公平风险。五是社会伦理价值风险。人工智能系统可能会不断向个人推送其偏好的内容而强化社会

认知偏见，也有可能会大量推送非法有害内容，而生成式人工智能可能会生成和传播大量虚假信息或新

闻，从而对社会舆论和伦理价值产生损害。六是公共安全风险。人工智能可以提升网络