生成式人工智能领域中的数据安全风险及刑法保护.pdf

中共郑州市委党校学报2024年第1期（总第187期）

JournalofthePartySchoolofCPCZhengzhouMunicipalCommitteeNo.1，2024（Sum，187）经济理论与法学研究

生成式人工智能领域中的数据安全风险及刑法保护生成式人工智能领域中的数据安全风险及刑法保护

12

段广远，刘伟丽

（1.郑州大学法学院，河南郑州450000；

2.国家检察官学院河南分院，河南郑州451191）

摘要：在数字时代，数据已然成为推动经济发展的重要因素，数据安全也被提高到了国家战

略层面。生成式人工智能的发展使得数据传播和使用的深度和广度发生了革命性的变化，同时也

可能产生数据安全风险。数据来源合法性、数据泄露的风险以及可能带来的数据伪造问题都亟须

解决。数据保护与生成式人工智能发展的内在矛盾使得现行《刑法》无法适应新的困境。因此，应

当改变数据保护策略，构建数据安全刑法保护体系，重构数据访问规则和出罪机制，根据数据流通

阶段的不同调整《刑法》保护的侧重点，以应对生成式人工智能崛起带来的数据保护困境。

关键词：生成式人工智能；数据安全；数据利用；刑法保护

中图分类号：D924；TP309.2文献标志码：A文章编号：1671-6701（2024）01-0062-06

近年来，生成式人工智能的发展使得数据传播作原理主要分为三个阶段：一是预先训练阶段；二

和使用的深度和广度发生了革命性的变化，同时也是模型构建和微调阶段；三是输出处理、回答生成、

带来了可能产生的数据安全风险。人工智能模型输出处理阶段。

的训练不可避免地会收集大量的个人信息，可能会ChatGPT于2023年年初完成了预先训练阶段，

对个人隐私造成威胁。除此之外，生成式人工智能在此阶段研发者利用大数据以及爬虫技术向

还极大降低了犯罪门槛，犯罪分子利用“AI换脸”ChatGPT投喂了多达1750亿个模型参数和超万亿

“AI换声”等虚假音频视频，进行诈骗、诽谤的违法单词的人类语言数据。ChatGPT所拥有的无比强大

犯罪行为屡见不鲜。由于生成式人工智能对数据的语言生成能力、上下文学习能力以及世界知识能

流通的依赖性，《刑法》对数据安全的静态保护会对力均来自大规模的预先训练阶段。OpenAI公司在

生成式人工智能的发展产生不当限制，阻碍数据产有3000亿单词的语料上预训练拥有1750亿参数的

［1］

业的发展。本文以生成式人工智能的运作原理为模型。

基础分析可能产生的数据安全风险，探究数据保护海量的数据只是ChatGPT的基础，它的强大之

与生成式人工智能发展的内在矛盾与保护困境，进处在于研究者基于互联网的可用数据，使用“利用

而结合我国《刑法》的相关规定就完善数据安全保人类反馈强化学习”（ReinforcementLearningfrom

护、平衡风险与发展的制度安排提出建议。HumanFeedback，RLHF）的训练方式，使其成为一

一、生成式人工智能运作原理及可能产生的个可以生成文本和图像的深度学习模型。因此，

数据安全风险ChatGPT的第二个关键技术是模型的构建。对生成

（一）生成式人工智能的运作原理式深度学习模型的训练可以分解为三个部分。首

以生成式人工智能的代表ChatGPT为例，其运先