ChatGPT场景下虚假信息的法律风险与对策.pdfVIP

新疆师范大学学报哲学社会科学版第44卷第5期2023年9月

JournalofXinjianandSocialSciencesVol.44No.5Sep.2023

NormalUniversity（Philosophy

ChatGPT场景下虚假信息的法律风险与对策

舒洪水彭鹏

（西北政法大学国家安全学院，陕西西安710000）

摘要：ChatGPT作为一种运用于生成文本响应的语言模型，具有依赖大数据、强算法、大算力等技术特

性，已成为现象级人工智能应用产品，标志着人工智能技术实现新的突破。与其技术特性相关，ChatGPT与虚

假信息存在互为因果的内在关系，其生成的虚假信息数据体量大、传播速度快，对我国网络安全、网络监管、

司法处置等产生风险。为有效应对ChatGPT场景下虚假信息可能触发的法律风险，要加强数字领域基础性综合

性立法、强化平台治理、加快构建法治保障体系以及健全完善数据治理制度体系。

关键词：ChatGPT；虚假信息；法律风险；对策

中图分类号：TP18文献标识码：A文章编号：1005-9245（2023）05-0124-06

2023年2月，中共中央、国务院印发《数字开研究具有重大现实意义

中国建设整体布局规划》，指出建设数字中国是

数字时代推进中国式现代化的重要引擎，也是构一、ChatGPT场景下虚假信息的法律问

筑国家竞争新优势的有力支撑。加快数字中国建题研究概述

设，对全面建设社会主义现代化国家、全面推进

中华民族伟大复兴具有重要意义和深远影响。强（一）现有研究的基本面向

调在强化数字技术创新体系的同时，应筑牢可信ChatGPT作为人工智能的一种内容生产型应

可控的数字安全屏障，切实维护网络安全，完善用形态（AIGC），自2022年11月推出后，即因

网络安全法律法规和政策体系。在我国规划布局其技术特色代表了AIGC的基本技术特点与趋势，

数字中国建设这一重大战略之际，ChatGPT作在短期内迅速成为人们研究的对象。有学者认为，

为基于大数据、强算法、大算力构建的聊天型人ChatGPT为社会带来巨大便利的同时，存在诸多

工智能产品进入人们视野，在极短时间引发社会法律风险，主要包括知识产权归属争议、数据来源

各界广泛关注和探讨。系统审视这些探讨可知，合法性与用以训练的数据质量问题，生成不良或

ChatGPT在展示其超出大部分人现有认知的先进违法信息，挑战学校及学术伦理规范。还有学者

性外，可能因给社会各领域带来诸多风险而引发认为，从整体看，ChatGPT释放生产力、变革生

人们的焦虑。其中，ChatGPT生成的虚假信息对产关系、创新商业模式、驱动产业转型、催生应用

我国现有法律体系造成的挑战值得关注。因此，场景，是新一代人工智能技术带来的机遇。与此同

对ChatGPT场景下虚假信息的法律风险与对策展时，ChatGPT可能引发技术层面、社会层面、伦理

收稿日期：2023-03-11

作者简介：舒洪水，西北政法大学国家安全学院教授、博士生导师；彭鹏，西北政法大学国家安全学院博士研究生

①邓建鹏、朱峰成：《ChatGPT模型的法律风险及应对之策》，《新疆师范大学学报（哲学社会科学版）》，2023年

第5期（网络首发）。

舒洪水等：ChatGPT场律风险与对策125·

层面及法律层面等诸多挑战。上述研究在认可以训练，ChatGPT在预训练阶段使用海量的无标注数

ChatGPT为代表的人工智能在促进社会进步的同据进行无监督或自监督训练，使之在大量的文本数

时，从不同层面分析了ChatGPT带来的挑战和风据集上预先训练一个深度神经网络。在此基础上，

险，对于全面认识ChatGPT的社会功能、引导其以人工标注方式进行微调，即根据特定任务对训练

在我国健康发展具有积极意义模型进行调整。如果说ChatGPT在上