人工智能治理之旅：发展与机遇（2022年）.pdfVIP

2022年5月9日第17期总第536期

人工智能治理之旅：发展与机遇

【译者按】2021年11月，世界经济论坛发布了《人工智能治理之旅：

发展与机遇》。报告指出，人工智能技术取得飞速发展，但相关的治理能

力和框架却没有及时跟进。近几年，各方对治理人工智能提出了很多伦理

道德原则，但如何在不扼杀创新的前提下管控风险并推动人工智能治理由

原则向实践转化才是最关键的。为此报告提出若干政策建议，呼吁多利益

攸关方采取“灵活治理”的方式，共同参与人工智能治理。赛迪智库政策

法规研究所对该报告进行了编译，期望对我国有关部门有所帮助。

【关键词】人工智能治理多利益攸关方

一、背景

在过去五年，人工智能治理取得了迅猛发展，构建人工智能

监管生态系统的速度大大提高，但如何以负责任的方式推动人工

智能的应用和实践依旧是当前面临的迫切挑战。人工智能有独特

的风险，简单照抄现有政策工具并不能处理好这些问题，社会必

须考虑在应用人工智能时完善相关手段和措施，以此来化解先进

决策系统带来的潜在风险。

这些手段和措施应当包括国际合作及跨部门合作，现在比过

去任何时候都更有必要推广“多利益攸关方参与”

（MultistakeholderApproaches）的方式，同时在人工智能治理设

计方面也要采取更灵活的方法。要以负责任的方式对人工智能应

用进行治理，确保人工智能技术能保护并惠及每位社会成员。

二、人工智能发展历程回顾

历次工业革命既创造机遇，也带来挑战，迫使社会重新审视

当时的治理结构能否有效维持监管与创新之间的平衡。人工智能

是推动第四次工业革命的引擎，围绕人工智能及其安全防护措施

将会出现诸多挑战。对其历史发展进程进行总结回顾十分重要，

只有通过回顾过去，才能把握未来的发展方向。

（一）2010年以前：人工智能的冬天与解冻

早在人工智能发展初期，大家都认为人工智能发展到可以承

担权责的程度时，就有必要认真考虑治理方面的问题。即使是处

于历史学家认为的“人工智能冬天”（即人工智能及公众兴趣走

低的时期），人们对人工智能带来的后果和治理效果也抱有担忧

和恐慌。另外，人工智能的潜在应用范围极广、社会影响深远，

这势必引发人们对隐私、安全、偏差、公正等议题的担忧。因此，

在制定政策时必须从多领域的现有框架中汲取经验，包括国际法、

公共政策、数据治理与伦理道德规范等领域。

（二）2010年到2016年：人工智能加速发展带来的挑战

2010年以后人工智能的发展开始提速，主要源于三方面的突

破：一是计算能力提升，二是云计算渠道增加，三是数字化数据

量激增。同时，人工智能在深度学习方面也取得了明显进展。

人工智能的快速发展及应用的确鼓舞人心，但同样也引发了

公众对数据使用和侵犯隐私等多方面的担忧。在获取或开发深度

学习技术的热潮中，亟需防范的主要是涉及决策类的应用，如执

法、人力资源和金融等敏感领域的应用。此外，人工智能系统对

特定社会群体的不公正对待现象及宏观层面的关切也时有报道。

对那些希望快速从人工智能发展中受益的人来说，重点是如

何在安全和创新之间保持平衡。人工智能开始加速发展，治理不

到位自然也就成了“速度问题”（法律法规无法跟上技术进步）。

（三）2016年到2019年：发布原则与指南

到2016年，公众越发意识到如果不对人工智能进行适当的

监管和引导，将会干扰公众生活，扩大社会不平等，加剧现有偏

见，并破坏隐私，而所有这些都会削弱公众对人工智能的信任，

从而使人工智能造福社会的潜力消失殆尽。

政府和业界的最初反应是制定或修改某些原则。2017年，在

美国阿西洛马（Asilomar）举办了一次“有益的人工智能会议”，

会上提出了一套原则来帮助公众了解政府和业界一直大力推动

的概念和观念，包括隐私、公正、非歧视、透明、安全与问责等。

在这之后，世界各地的其它组织纷纷围绕人工智能主题发布各自

的原则和主张。围绕人工智能造福社会的话题也兴起了多个组织

和倡议，比如2015年成立的“开发人工智能学会”、2016年成立

的“人工智能合作伙伴”和2017年发起的“人工智能伦理与治

理倡议”。

（四）2019年至今：持续加速与治理创新

普及人工智能原则与道德指南有助于揭示人工智能