生成式人工智能治理的态势、挑战与展望.pdf

76理论前沿ForefrontTheory

生成式人工智能治理的态势、挑战与展望

程乐

作为引领新一轮科技革命和产业变革的关键技术，以ChatGPT为代表的生成式人工智能不断催生新

【摘要】

场景、新业态、新模式和新市场，改变了信息和知识的生产方式，重塑了人类与技术的交互模式，对教育、

金融、媒体和游戏等行业均产生重大影响。在此背景下，全球各国纷纷出台人工智能发展战略和具体政策，

抢占战略制高点。与此同时，生成式人工智能暴露出的数据泄露、虚假内容生成、不当利用等安全风险也引

起各国广泛关注。生成式人工智能的发展、运用和治理，不再是某一国而是整个国际社会面临的共同挑战。

为有效应对生成式人工智能对信息内容治理的新挑战，应当平衡安全和发展的关系、技术创新和技术治理的

关系、企业合规义务和企业负担能力的关系。

生成式人工智能治理模式立法内外部挑战多维平衡D92A

【关键词】【中图分类号】【文献标识码】

生成式人工智能（GenerativeAI）是人工智能发展不当利用等安全风险也引起各国广泛关注。可以肯定地

过程中出现的新型技术，可使用统计方法根据概讲，生成式人工智能的发展、运用和治理，不再是某一

率生成新内容，如视频、音频、文本甚至软件代码。通国而是整个国际社会面临的共同挑战。

过使用Transformer（一种基于自注意力机制的神经网

络模型），生成式人工智能可深入分析现有数据集，识国外人工智能主要监管模式评析

别其中的位置连接和关联关系，再借助人类反馈强化

学习算法（ReinforcementLearningfromHuman人工智能是一把“双刃剑”，在促进社会进步的同时，

Feedback）不断优化训练形成大语言模型，最终能够为也带来了风险与挑战。国际社会致力于持续推动人工智

新内容的生成作出决策或预测。①除了文本生成和内容能向善发展。例如，联合国教科文组织通过了首份人工

创作之外，生成式人工智能还拥有广泛的应用场景，如智能伦理问题全球性协议——《人工智能伦理问题建议

客户服务、投资管理、艺术创作、学术研究、代码编程、书》，明确了相称性和不损害、安全和安保、公平和非歧

虚拟协助等。概言之，自我生成、自我学习并快速迭代视等十项原则。欧盟自2018年以来持续推进人工智能

是生成式人工智能区别于传统人工智能的基本特点。的设计、开发和部署，同时努力规范人工智能及机器人

国家网信办等七部门正式发布的《生成式人工智能的使用和管理。2024年初生效的欧盟《人工智能法案》

服务管理暂行办法》（以下简称《暂行办法》）自2023助推此项工作达到高潮，甚至成为人工智能治理史上的

年8月15日起施行，旨在促进生成式人工智能健康发里程碑。美国更注重人工智能发展，以《人工智能权利

展和规范应用，维护国家安全和社会公共利益。作为引法案蓝图》（以下简称《权利法案蓝图》）为主要举措对

领新一轮科技革命和产业变革的关键技术，以ChatGPT人工智能发展进行规制。鉴于欧盟和美国的人工智能治

为代表的生成式人工智能不断催生新场景、新业态、新理措施相对成熟且具有代表性，下文以二者为例探讨不

模式和新市场，改变了信息和知识的生产方式，重塑了同监管模式的优劣，希冀为我国人工智能的健康发展和

人类与技术的交互模式，对教育、金融、媒体和游戏等有效治理提供借鉴。

行业均产生重大影响。在此背景下，全球各国纷纷出台欧盟人工智能立法：安全优先，兼顾公平。从立

人工智能发展战略和具体政策，抢占战略制高点。与此法历程上看，2021年4月，欧盟委员会发布了立法提案《欧