《 人工智能引论》课件 第12章人工智能伦理与安全.pdf

第十二章人工智能伦理与安全

第十二章人工智能伦理与安全

•12.1新一代人工智能伦理规范

•12.2可信人工智能

•12.3人工智能可解释性

•12.4人工智能安全

第十二章人工智能伦理与安全

•12.1新一代人工智能伦理规范

12.1.1新一代人工智能伦理规范概况

•人工智能伦理的基本特征：

第一，人工智能伦理属于工程伦理学范畴

第二，人工智能伦理是对人工智能技术的道德规制

12.1.2人工智能引发的伦理问题

隐私问题

人工智能伦理规范中涉及的隐私问题主要是指在人工智

能应用场景中的信息隐私或数据隐私。

规制人工智能伦理中隐私问题，要做到合乎伦理地使用

人工智能，数据的收集、处理和共享以尊重个人的隐私权为

前提。保护人工智能使用者的知情权，人工智能使用者有权

了解自身数据使用情况、有权反对收集或处理相关数据，当

相关数据正在被收集和处理时有被通知的权利。

12.1.2人工智能引发的伦理问题

道德认定问题

在实践中表现为人工智能本身是否应具备内在的道德约

束。

在具体的应用场景中，学界讨论最多的问题是自动驾驶

汽车应用下“电车难题”和“隧道难题”，以及由此引发的

无人驾驶汽车的伦理困境及影响。

12.1.2人工智能引发的伦理问题

算法偏见问题

在人工智能做出决策时，尤其是在推荐用户做

出某个决策时，可能会产生偏见与歧视问题，该决

策可能对某个或某些特定的个人或群体产生不公正

或不公平的对待。

12.1.3人工智能伦理规范的核心原则

第一，科技伦理原则

第二，创新发展原则

第三，公平公正原则

第四，可问责性原则

第十二章人工智能伦理与安全

•12.2可信人工智能

12.2.1人工智能的不可信任的表现和成因

算法的不透明性引发自主决策权与用户知情权的关注

算法在处理个人数据时存在侵犯隐私的风险

算法在使用过程中存在歧视的风险

算法的权力增强导致了人与技术之间对抗性上升

12.2.2可信人工智能的安全类型

技术安全

算法模型的健壮性是技术安全的核心

数据保护是技术安全的关键环节

系统稳定性与可靠性是技术安全的重要保障

持续的安全监测与更新是技术安全的必要条件

12.2.2可信人工智能的安全类型

应用安全

数据隐私保护

算法模型安全

算法防御性学习

12.2.2可信人工智能的安全类型

法律与伦理安全

人工智能应用中的数据保护与隐私保护

人工智能应用中的知识产权保护，如专利、商标和版权

等

人工智能应用要符合反垄断法律规定，避免垄断行为对

市场竞争和消费者权益造成损害。

12.2.3构建可信人工智能的途径

构建可信人工智能标准框架和可信性指南

建立人工智能风险分类分级制度和伦理原

则标准

加强场景化人工智能技术标准

以算法治理规制机器学习技术

第十二章人工智能伦理与安全

•12.3人工智能可解释性

12.3.1可解释性人工智能的概述

可解释性人工智能，是指具有可理解性的(understandability)人工智能，它

是人工智能模型的一种性质。在现有的研究文献中，可解释性概念并不明

确，也可以表述为可诠释性、透明性、可领会性等，在很多情况下它们被

互换使用。

可解释性人工智能在本质上说具有社会系统属性，但无法承担道德责任。

2019年6月17日，国家新一代人工智能治理专业委员会发布《新一代人工智

能治理原则——发展负责任的人工智能》，提出了“负责任的人工智能”

概念，提出了共担责任主张。共担责任并非指人工智能产品的责任承担问

题，而是人工智能研发者、使用者及其他相关方的共同责任。

12.3.2发展人工智能可