伦理先行：生成式人工智能的治理策略.pdfVIP

伦理先行：生成式人工智能的治理策略

支振锋 刘佳琨

摘要：生成式人工智能的迅猛发展为数字经济发展提供新动力，为社会民生创造新福祉，同时也引发了

一系列现实挑战。中国现行立法已为生成式人工智能的发展划定了基本的安全保障底线，但该技术的发展方

向和产业发展均处在高度不确定性当中，部分安全风险可能是被制造的焦虑，以国家立法形式进行规制为时

尚早。生成式人工智能的治理需要伦理先行，坚持激励相容精神，为人工智能新技术新应用创新留下充分空间，

以伦理治理的方式推动技术社区、产业群体、社会组织、社会公众、治理机构共同进行探索磨合，凝聚共识，

待实践经验充足、立法时机成熟时，再将共识性规范纳入法律框架之中。

关键词：生成式人工智能；伦理治理；科技伦理；多元治理

中图分类号：D922.1文献标识码：A文章编号：1000—8691（2024）04—0060—12

2022年3月，中共中央办公厅、国务院办公厅印发了《关于加强科技伦理治理的意见》，将“伦理

先行”作为科技伦理治理的要求之一，强调“将科技伦理要求贯穿科学研究、技术开发等科技活动全过程，

促进科技活动与科技伦理协调发展、良性互动，实现负责任的创新”。2023年10月，国家互联网信息办

公室所发布的《全球人工智能治理倡议》重申了“伦理先行”在人工智能治理中的重要意义，向各国倡

议建立并完善人工智能伦理准则、规范及问责机制，充分彰显了以伦理规范先行约束和引导人工智能发

展的治理理念。

算力、算法、计算机视觉以及自然语言处理等领域的技术革新，使越来越多样化、多模态、多功能

的大语言模型得以问世。2022年底以来，以ChatGPT、GoogleBard、Sora、通义千问、文心一言等大模

型为代表的生成式人工智能（GenerativeArtificialIntelligence,GAI）技术井喷式发展。根据从大量数据中

学习到的模式和结构，生成式人工智能能够以对话方式理解和回应人类输入，分析、理解和输出高度类

似人类生成的文本、图像、音乐甚至视频等内容。a从提高效率到创意生成，从生活助手到知识百科，从

文艺创作到科学研究，生成式人工智能给人类社会生产生活方式带来巨大变革，给经济社会发展创造新

模式、塑造新动能。但与此同时，对这一新技术的误用和滥用也带来了不可忽视的风险挑战。

为迎接生成式人工智能迅速发展带来的机遇和挑战，2023年7月，中国出台《生成式人工智能服务

管理暂行办法》，从价值规范、行为规制和过程监管等方面展开了对生成式人工智能的治理探索。2024

作者简介：支振锋，男，法学博士，中国社会科学院法学研究所研究员，教授、博士生导师，主要从事法理学、数字法

学研究。

刘佳琨，女，中国社会科学院大学法学院博士研究生，主要从事法理学、数字法学研究。

aCooper,G.(2023).ExaminingscienceeducationinChatGPT:Anexploratorystudyofgenerativeartificialintelligence.Journal

ofScienceEducationandTechnology,32,444-452.

60

20244

年第期

年3月，欧洲议会正式通过欧盟《人工智能法》，使其成为全球首部人工智能领域的全面监管法规，其

中要求ChatGPT在内的人工智能必须遵守透明度要求和欧盟版权法，可能带来系统性风险的高影响力通

用人工智能模型则需要接受彻底评估，开启了ChatGPT等生成式人工智能发展的法律层面的规制。但该

法是否会再产生如同《通用数据保护条例》（GDPR）一般的“布鲁塞尔效应”，不仅取决于法律对人工

智能风险的判断是否准确，欧盟本身能否做好技术创新、产业发展与风险治理、安全秩序之间的平衡，

也在一定程度上取决于世界主要国家对人工智能监管的态度和竞争战略。

对生成式人工智能的安全治理固然重要，但该技术尚处于技术发展的初期，技术路线、应用趋势和

具体风险都处于高度不确定中，