【ITIF】中国和英国的专家如何看待AI风险和合作（英译中）.docx

中国和英国的专家如何看待AI风险和合作

徐燕子和丹尼尔·卡斯特罗|2024年8月12日

随着AI的不断进步，该技术创造了许多机会和风险。尽管存在巨

大的地缘政治差异，但对中国和英国人工智能专家的一系列采访揭示了共同的人工智能安全优先事项，对开源人工智能的好处和风险的共同理解，以及对更紧密合作的优点的共识-但也阻碍了更紧密的伙伴关系。建立更紧密的关系可以帮助两国实现发展创新、安全和可靠的人工智能的目标。

INTRODUCTION

人工智能（AI）的最新进展为社会，经济和科学进步提供了许多重要利益。这些进步的一个重要因素是开源AI的发展：AI技术的源代码和数据可免费供他人使用,研究，修改和分发。1开源AI对于通过协作开发加速创新，减少冗余和实现AI功能的民主化至关重要。由于任何人都可以使用它，因此它可以促进经济发展和社会进步，例如允许任何人针对特定任务调整和调整功能强大的AI模型。此外，研究人员，开发人员和用户之间在开源AI上的全球合作可以促进共享AI项目的集体进步，并促进制定透明度，问责制和道德准则和最佳实践。最后，通过可访问的代码和数据促进透明度和问责制，它有助于识别和解决人工智能中的偏见、错误和道德问题，并允许用户了解技术是如何工作的。

数据创新中心1

中国和英国都是开源社区的活跃成员，也是人工智能领域的先驱。这段历史使他们成为开源AI的领导者。例如，美国K.基于StabilityAI的公司是许多流行的开源生成AI工具的开发人员，这些工具用于创建图像，音频，3D模型和代码。中国已经生产了一些世界上表现最好的开源大型语言模型（LLM），包括Qwe（阿里巴巴）和Yi（01。AI).2这些开源AI项目提供了与专有（或“封闭”）AI的竞争，开发人员限制对底层技术的公共访问。

然而，开源AI提出了独特的挑战。首先，与专有AI不同，开发人员可以监督用户如何使用他们的技术，一旦开发人员公开提供开源AI，他们就几乎无法控制其他人如何使用他们的技术。恶意行为者可能会篡改开源AI，以消除保护措施，操纵结果并生成不准确的信息。此外，恶意行为者可能会将该技术用于危险和非法目的，例如进行网络攻击，散布虚假信息，实施欺诈，制造违禁品以及从事其他非法活动。

其次，与专有AI不同，开发人员负责技术，并不总是有人负责开源AI项目。因此,该技术可能具有没有人解决的已知错误或安全漏洞。同样，开源AI可以在没有任何保证或保证的情况下提供。例如，用户可能不知道开发人员是否在低质量或非法数据上训练了开源AI模型。最后，开源产品的开发实践可能会产生未知的风险，例如攻击者暗中试图将恶意代码或数据引入开源项目。

解决人工智能的风险是一个全球关注的问题，英国和中国都一直站在这个问题上，

尽管他们都在寻求支持各自公司对人工智能的开发和使用。英国在2023年召开了人工智能安全峰会，包括中国在内的许多国家都参加了峰会。首脑会议以《布莱切利宣言》结束，与会国决心“维持包容性的全球对话，使现有的国际论坛和其他相关倡议参与进来，并以开放的方式为更广泛的国际讨论做出贡献。.3习近平主席后来在旧金山与美国总统举行的双边会议上发表讲话，重申了在包括人工智能在内的共同利益方面开展互利合作的呼吁。4中国外交部还于2023年10月发表声明，呼吁“全球合作，促进人工智能的健康发展，分享人工智能知识，并以开源条款向公众提供人工智能技术”。5

尽管有这些高级别政府声明，但目前尚不清楚英国和中国能否实现更紧密合作的愿望

数据创新中心2

在人工智能中采取有意义的行动。要了解这种伙伴关系的可行性，重要的是要更好地了解政府以外的人工智能专家的关切和优先事项是否一致，以及他们迄今为止在合作方面的经验。本报告努力提供对这些问题的见解。

方法

这项研究采用了定性研究设计，以探索专家对与AI相关的风险的观点，尤其是开源AI，其中存在潜在的合作途径。定性方法特别适合捕获专家意见的深度和复杂性,提供丰富，详细的数据，可以为理解快速发展的领域提供信息。

从2024年3月到6月，我们对来自英国和中国学术界和工业界的专家进行了深度访谈。我们根据参与者在人工智能技术和政策方面的专业知识选择参与者，确保了不同的观点。最终的样本