生成式人工智能的风险类型与治理方案.docxVIP

生成式人工智能的风险类型与治理方案

摘要：随着ChatGPT的爆火，生成式人工智能成为炙手可热的技术概念，其具有数据依赖、生成内容难以分辨以及通用性较强三个主要特征。生成式人工智能的应用前景可观，但也可能会引发数据安全、算法安全以及生成内容安全方面的社会风险。生成式人工智能运行的不透明性、不可理解性以及追责困难性，将会造成生成内容著作权归属不清和生成内容存在偏见，可能侵害个人信息权益、造成行业垄断甚至危害国家安全。针对生成式人工智能风险的治理方案，在法律层面应当从数据安全保护、算法治理以及生成内容审查方面构建全链条的治理规则。在平台监管层面，应当构建平台备案制度、实施激励措施以及畅通投诉渠道。在协同层面，形成用户、企业、政府以及国际组织等多元主体共治局面。

中图分类号：D923文献标识码：A文章编号：１００９—２２３４（２０24）12—００７１—０7

自美国OpenAI公司开发的两款产品DALL·E2①和ChatGPT②相继发布以来，生成式人工智能这一概念正式进入大众视野，整个社会开始对大型科技公司开发的各种生成式人工智能产品抱有极大兴趣。Meta、微软、谷歌、百度、腾讯等网络巨头争相跟进，生成式人工智能成为了互联网投资的新风口和信息技术发展的新趋势。生成式人工智能作为一项新兴技术，未来应用前景十分可观。被誉为“互联网之父”的英国计算机科学家蒂姆·伯纳斯-李（TimBerners-Lee）预测：未来人人都可能会拥有ChatGPT类生成式人工智能助手［1］。人类社会的发展进步离不开科技创新。自工业革命以来，每一次技术变革都会引发社会形态、社会结构以及治理方式的改变。正如海德格尔（MartinHeidegger）指出的，现代技术的本质体现了人类的技术性生存方式，这是人类不可逃避的“天命”［2］。因此，人类应当在守正的基础上不断进行创新。尽管新的技术可能会引发风险，但不能因此将其视为洪水猛兽而停滞发展。对科技风险进行合理的规制则能够使其消极影响降到最低，从而让科技更好地服务于人类社会。在生成式人工智能技术尚处于起步阶段的应用背景下，当前亟需对生成式人工智能的风险类型进行梳理，并提出具有前瞻性和可行性的治理方案，从而促进生成式人工智能的良性发展。

一、生成式人工智能的主要特征

生成式人工智能技术是指通过各种机器学习（ML）方法从数据中学习工件的要素，进而生成全新的、原创的、真实的工件（一个产品或任务）［3］。生成式人工智能技术本身已有60多年的发展历史。早在1957年，LejarenHiller和LeonardIsaacson完成了历史上第一部由计算机创作的音乐作品［4］。随着基础研究的不断深入，大数据、算法和算力等相关技术的迅猛发展，作为生成式人工智能关键技术支撑的生成模型，其性能得到了显著改善。生成式人工智能的生成模型包括：生成式对抗网络（GANs，其本质上是一种深度学习模型）、自回归模型以及基于流的模型等。利用生成模型，生成式人工智能可以在短时间内自动创建大量的内容，包括新的文本、图像、音乐、视频等。值得注意的是，生成式人工智能只是一种技术概念，而并非具体的应用概念，该技术可以被应用到有哪些信誉好的足球投注网站引擎、互联网平台等下游场景中。元宇宙数字虚拟世界，本质上就是生成式人工智能应用到数字空间构建的结果，也就是说生成式人工智能技术的出现才使得元宇宙不再是“空中楼阁”［5］。结合生成式人工智能的技术原理，本文认为其具有极其依赖数据、生成内容难以分辨以及通用性较强三个方面的主要特征。

（一）数据依赖性

生成式人工智能从本质上来说是一种大语言模型，离开了数据，生成式人工智能就成了无源之水、无本之木［6］。生成式人工智能需要通过算法技术不断训练语言模型，以此提升生成内容的质量，而语言模型训练的背后离不开数据的支撑。生成式人工智能“聪明”的关键因素是其具有强大的推理能力，然而，这种能力需要通过深度挖掘大量数据中丰富的内在信息进行获取，这样才能使得生成式人工智能可以更好的满足用户需求。因此，要想生成式人工智能输出高质量的内容，就必须为其提供数量足够多、种类足够广、质量足够高的“数据口粮”。就技术角度而言，数据对于人工智能应用程序的开发以及迭代至关重要［7］。例如，作为生成式人工智能典型应用代表的ChatGPT，从2018年发展至今，已经迭代出4个版本。ChatGPT-1拥有117M训练参数，ChatGPT-2拥有15亿参数和800万个网页的训练数据集，ChatGPT-3拥有1750亿训练参数，如今ChatGPT-4拥有百万亿级训练数据参数［8］。由此可见，ChatGPT的每次升级迭代都极其依赖于训练数据的指数级增长。正是由于海量级训练数据的积累，ChatGPT才能不断进步完善，最终能够提供更好的应用服务。

（二）生成内容难以分