生成式人工智能应用失范的法律规制研究 .pdfVIP

生成式人工智能应用失范的法律规制研究

作者：龙柯宇

来源：《东方法学》2023年第04期

关键词：生成式人工智能技术样态应用失范过程性规制平台监管ChatGPT

一、问题的提出

技术在塑造新的大模型的同时，也极大地改变了信息传播范式，因数据与算法双轮驱动而

引发的网络失范行为层出不穷，“破坏性创新”因此得名。近期爆红的现象级产品ChatGPT，表

征着生成式人工智能正在发生的快速迭代和进化，其不仅重构了人们的认知逻辑，还革新了传

统产业的运作方式。面对ChatGPT上线两月用户破亿的“狂飙”事实，前有360创始人周鸿祎称

其为“通用人工智能发展的奇点和强人工智能即将到来的拐点”，后有马斯克等千名科技人士集

体呼吁暂停训练比GPT-4更强大的人工智能系统至少6个月，而意大利则成为首个禁用

ChatGPT的国家。其实，无论是盛赞抑或诟病，都是数字化转型进程中对生成式人工智能的一

种应用考察与注解，旨在于社会接受度范围内引导其向善发展，以此增进人类福祉。

不同于侧重分析与判断的决策式人工智能，生成式人工智能凭借深度学习与生成算法，通

过检查训练示例以最大限度地利用现有数字内容的分布模式，从而生成不同于学习样本的、多

樣化的、具有原创性的新内容。总的来说，生成式人工智能的崛起是数据、算法和算力共同作

用的结果，其中，神经网络算法的大规模使用系最为关键的因素。当下，生成式人工智能主要

应用于消费端（通过内容生成，提升消费者效用）和产业端（加速自动化，促进技术进步和新

要素创造），其典型代表便是ChatGPT、社交机器人（SocialBots）等聊天机器人模型。具体

来说，ChatGPT是一款基于Transformer架构训练出的GPT系列的自然语言处理工具，其本质

是一种“大数据+机器学习+模拟演练+微调变换+加工输出”的人机智能交互应用程序。而社交

机器人则是一种经由编程并按照一定算法运行的计算机程序，其伪装成社交媒体平台的真实用

户，通过关注、发帖、点赞、评论、分享等交互方式，实现商业引流、舆论引导的目的。

网络空间本应是现实社会关系在虚拟时空得以存续和延伸的一个场域，但恶意的生成式人

工智能却企图在各个维度最大限度地模仿和贴近人类，并利用数据空洞和社交网络“弱连接”的

特性，渗透进真人用户群体，再“一本正经地兜圈子”，或者伪造出大量网友对某一话题或人物

的同意或反对意见，进而制造热门话题，最终达致某种精心设计的社会影响，其对互联网生态

造成的负面效应委实不可小觑。

现实中，生成式人工智能在减轻互联网群组负责人工作量和实现技术赋能的同时，也引发

了一系列网络乱象。譬如某明星微博取得一亿转发量的幕后推手便是利用了社交机器人来制造

流量和控制娱乐风向。同样，在社交机器人的帮助下，Cynk科技公司的股票从每股0.10美元

一跃涨到了每股20美元，公司市值增长了近200倍，升至60亿美元。即便是在公共卫生领

域，社交机器人也频频介入电子烟禁售等话题讨论中。此外，不法之徒也盯上了ChatGPT，用

其创建无代码的虚假内容，以此实施诈骗、恐吓、诽谤等网络犯罪。

客观来讲，聚集了上亿用户的互联网确实为生成式人工智能的规模化、产业化、平台化发

展提供了优渥的资源环境，但作为科技进步表征的人工智能却难免被滥用，甚至服务于违法犯

罪活动。党的二十大报告提出，要健全网络综合治理体系，推动形成良好网络生态；要健全国

家安全体系，强化网络、数据等安全保障体系建设。国家互联网信息办公室于2023年4月11

日发布的《生成式人工智能服务管理办法（征求意见稿）》则明确了国家对生成式人工智能产

业的支持和鼓励态度，并首次就相关监管治理（包括准入资格、安全评估、责任义务、处罚措

施等）给予了较为详尽的规定。基于此，有必要穿透生成式人工智能的技术表层，将零散式的

法律责任探究代之以体系化的逻辑考量，铸就对此类人工智能由表至实的科学规制路向。

二、生成式人工智能的技术样态考

伴随生成式人工智能以独立信源和信宿的身份出现于网络世界，信息失真的缺陷被进一

步放大，并从根本上解构了“人—人”交流场景。在缺乏明确的责任主体和义务约束的情形下，

将生成式人工智能大规模地应用于民众的虚拟社交场景，无疑会对人际交往和权益保障造成一

系列危机。鉴之，应当关注生成式人工智能背后的技术问题，分析其运行逻辑和行为特征，进

而厘清科技与法治的内在关联，为相关法律规制提供可靠的现实归依。

（一）生成式人工智能的技术逻辑