重构人工智能风险治理：从内部视角到外部视角.pdf

20246西安电子科技大学学报（社会科学版）Jun.2024

年月

342JournalofXidianUniversity(SocialScienceEdition)Vol.34No.2

第卷第期

■管理学

重构人工智能风险治理：从内部视角

到外部视角

段俊熙

（武汉大学法学院，湖北武汉430072）

摘要：学界对人工智能风险治理的研究集中在基于内部视角的人工智能合规制度，无法全面揭示人工智能

风险治理的制度内核。从风险治理的外部视角出发，将人工智能合规置于政企关系的框架下，人工智能合规的基

本理念将不再是纯粹的自我规制，而是自我规制与政府规制的互动。在这种视角转变下，平台企业与政府之间形

成关于人工智能治理任务分配的“发包”关系，体现为一种平台发包制，可以具体展开为四个子制度：授权机制

是平台发包制的制度前提，即政府基于信任授予平台企业规制权力，这种授权是通过隐私政策证成的；评估机制

用于衡量平台企业的人工智能风险治理能力；激励机制与考核机制都旨在提高平台企业的人工智能风险治理能力，

前者通过锦标赛理论推动平台企业参与依据人工智能风险治理能力的竞争，后者通过金字塔理论推动平台企业形

成体现人工智能风险治理能力的指标。

关键词：人工智能风险治理；内部视角；外部视角；人工智能合规；平台发包制

中图分类号：F490.6文献标识码：A文章编号：1008-472X(2024)02-0062-13

收稿日期：2024-03-07

基金项目：党的十九届六中全会精神国家社科基金重点项目“弘扬社会主义法治精神研究”（项目号

22AZD058）阶段性研究成果。

2000-

作者简介：段俊熙（），男，广东梅州人，武汉大学法学院，硕士研究生，研究方向：法理学、网络

法。

一、问题的提出

在科技浪潮席卷全球的时代，具备极大提高生产力潜能的人工智能（尤其是当下最前沿的以chat

①

GPT为代表的生成式人工智能）如同奥斯曼人眼中那颗诱人的“红苹果”，吸引着各国政府争相发布

科技政策以推动创新发展。然而，创新总是与风险相伴而生的，尤其是人工智能的许多创新性技术在为

人类带来巨大福利的同时，人类比以往任何时候都要更加依赖已经成为日常生活之一部分的技术。也正

因如此，人工智能所造成的风险也往往是无处不在的，如果人工智能继续以现有的不受监管的方式发展，

则其将会产生严重的政治、经济和社会危害。具体而言，其在政治层面会产生人工智能军事化的国际秩

序重构风险、在经济层面会产生微观层面的消费者大数据杀熟风险与宏观层面的市场垄断风险、在社会

[1-5]

层面会产生侵犯个人隐私甚至损害人格尊严的风险。且随着人工智能技术的不断专业化与复杂化，将

存在越来越多人类现有知识无法预测的潜在风险，而这种风险一旦发生，就将造成极具冲击力的“黑天

②

鹅事件”（theoryofblackswanevents）。

③

面对人工智能风险，各国的相关治理政策如雨后春笋般涌现。在中国，科技部分别于2019年6月

和2021年9月发布了《新一代人工智能治理原则——发展负责任的人工智能》和《新一代人工智能伦

理规范》，前者明确了人工智能治理的八项伦理原则，后者开始尝试将这些伦理原则转换为人工智能运

行的各个环节的制度设计中。

由于人工智能风险的复杂性与动态性，传统的规制方式往往难以起到实效，在此背景下，风险治理

逐渐成为人工智能治理的主流路径。风险治理