数字经济时代人工智能伦理风险及治理体系研究.docx

专题:数字经济与治理

·32·

数字经济时代人工智能伦理风险及治理体系研究

王亦菲韩凯峰

(中国信息通信研究院政策与经济研究所,北京100191)

摘要:随着人工智能学习算法的革新、海量数据的积累、计算能力的提升,全球迎来新一轮人工智能发展浪潮。人工智能在为人类生产生活带来诸多便利的同时,也引发了一系列社会伦理风险,为社会治理带来全新挑战。梳理分析全球重点国家人工智能治理进展及特点,提出从治理模式、治理手段、治理评价三方面构建完备的人工智能治理体系,并针对我国人工智能治理体系的构建提出相关发展建议。

关键词:数字经济;人工智能;科技伦理;数字治理中图分类号:F49;TP18文献标识码:A

引用格式:王亦菲,韩凯峰.数字经济时代人工智能伦理风险及治理体系研究[J].信息通信技术与政策,2021,47(2):32-36.

doi:10.12267/j.issn.2096-5931.2021.02.005

0引言

人工智能作为新一轮科技革命和产业变革的重要驱动性技术,正在重塑生产方式、优化产业结构、提升生产效率、赋能千行百业,推动经济社会各领域从数字化、网络化向智能化加速跃升。但人工智能在为人类生产生活带来诸多便利的同时,也在触发如泄露个人隐私、冲击就业格局、危害公共安全等风险问题,给社会治理带来全新挑战。因此,人工智能治理这一概念应运而生,推动构建全球人工智能治理体系正在成为各方共同诉求。

1人工智能带来数字治理新挑战

1.1人工智能引发经济社会多方面挑战

当前,以深度学习、跨界融合、人机协同、群智开放、自主操控为特征的新一代人工智能技术持续创新突破,在促进科技创新、培育新兴产业、改造升级传统产业、加快实体经济转型等方面的作用日益凸显[1]。但“每个硬币都有正反面”,人工智能技术在迅速赋能经济社会发展的同时,也引发安全、社会、法治等不同层面的风险挑战[2]。究其根本原因,在于人工智能所

产生的技术异化导致治理盲区出现、算法歧视产生、责任主体模糊等治理困境[3]。

一是引发安全风险,技术不可控等导致侵犯隐私、数据滥用等事件发生。人工智能技术极易被滥用,导致虚假信息频发、不良信息泛滥,加大数字内容治理难度。例如,某些应用软件利用深度伪造技术能够实现图像、音视频的生成或修改(如AI换脸),达到不良信息内容的“以假乱真”,甚至抹黑政治人物,严重影响网络空间秩序。另一方面,利用人工智能技术在数据收集与分析时可能会挖掘出用户个人敏感信息并加以利用,导致用户隐私泄露。例如,某些售楼部在未告知消费者的前提下,利用人脸识别技术对消费者进行比对以防止“飞单”,严重侵害消费者权益。

二是引发社会风险,就业替代性等导致贫富差距加大、社会不公平性加深。有观点认为,人工智能作为先进生产力之一,将替代简单、重复、流程化的工作岗位,导致结构性失业等问题,甚至有悲观者认为人工智能将会在人类社会中产生一批史无前例的“无用阶层”。据麦肯锡预测,到2030年机器人将取代8亿人的工作岗位。同时,由于人工智能将影响不同行业企业、不同岗位的分配关系,使社会财富聚集在少数技术

信息通信技术与政策2021年第2期

·33·

领先的行业企业,导致收入分配不均衡,使技术能力以及受教育程度较低的人群将在新一轮的社会资源分配中处于劣势地位。

三是引发法治风险,技术自主性等导致责任主体不明、冲击现有法律体系。由于当前的人工智能技术具备一定程度的自主学习与决策能力,并且其某些行为存在不可解释性,同时现行法律法规尚未明确界定人工智能的设计、制造、消费、使用等环节的各方主体责任与义务,导致法律责任认定和划分难度大增。例如,当自动驾驶汽车出现决策错误导致人员伤亡时、当智能医疗助理给出错误的医疗建议导致患者病情加重时,如何界定主体责任等核心问题尚未解决。

1.2多重因素增加人工智能治理难度

数据治理[4]、内容治理等具有治理主客体明确、治理范围清晰等特点,人工智能由于其算法的不透明、难解释以及技术的跨界传播性、外溢性强,导致其比一般的数字治理范围更广、难度更大[5]。

从内部因素看,算法黑箱性、数据依赖性等导致人工智能决策过程难预测、决策结果难控制。一方面,人工智能算法的决策依赖于海量的数据输入,但数据本质上是社会价值观的缩影与映射,极易包含一些社会偏见。若未能对数