人工智能管理体系PPT.docx

ISO42001AIMS人工智能管理体系课程

--AICybersecurityinEUAIACT

林祖宁

2

AI人工智能定义

2

LeadershipseriesLeadershipseries

Leadershipseries

AIMS人工智能管理体系—欧盟人工智能法案AIA

通过这些限制，欧盟描绘了一幅清晰的图景：欧盟人工智能法案涵盖的所有企业都必须在其运营中优先考虑公平、隐私和人类自主性.

人工智能的基本8原则?隐私

?问责

?保障与安全

?透明度和可解释性

?公平和非歧视

?人类对技术的控制

?职业责任

?促进人类价值

?

?禁止的AI：

?社会信用评分系统

?工作和教育中的情绪识别系统

?用于利用人们的弱点（例如年龄、残疾）的Al

?行为操纵和规避自由意志

?无针对性地抓取面部图像以进行面部识别

?使用敏感特征的生物识别分类系统

?特定的预测性警务应用

?执法部门在公共场合使用实时生物识别(有限的预先授权情况除外）

?1

?

?高风险人工智能：

?医疗设备/智能网络车辆及智能连接设备

?招聘、人力资源和员工管理

?教育和职业培训

?影响选举和选民

?获得服务（例如，保险、银行、信贷、福利等）

?关键基础设施管理（如水、煤气、电力等）

?情绪识别系统

?生物特征识别

?执法、边境管制、移民和庇护

?司法行政

?特定产品和/或特定产品的安全组件

?

?生成式目的AI：

?通用AI（GPAI）和基础模型的不同要求

?所有GPAI的透明度（例如文档、培训数据摘要、版权和IT保护措施等）

?对具有系统风险的高影响力模型的附加要求：模型评估、风险评估、对抗性测试、事件报告等

?生成式人工智能：

?在与人工智能（聊天机器人）互动时，必须告知个人;

?AI内容必须被标记且可检测（例如深度伪造）

?3

Leadershipseries

Leadershipseries

Leadershipseries

人工智能法案主条款解读

?

?标题二：禁止人工智能行为

?第五条禁止下列人工智能行为

?标题三：高风险AI系统

?第六条高风险人工智能系统分类规则

?第七条附件三的修正案

?标题一：一般条款

?第一条标的物

?第二条适用范围

?第三条定义

?第四条附件一的修订

4Leadership

series

人工智能法案主条款解读--标题二：禁止AI的列表

?标题二列出了禁止AI的列表。该法规遵循基于风险的方法，区分人工智能使用产生(i)不可接受的风险，(ii)高风险和(iii)低风险或最小风险。

?标题二中禁止的行为包括所有这些人工智能系统其使用被认为是不可接受的，因为违反了联盟的价值观，例如侵犯了基本权利。

?这些禁令涵盖了那些极有可能通过超出人们意识或利用的潜意识技术操纵人们的做法儿童或残疾人等特定弱势群体的脆弱性，以便在很大程度上扭曲其行为，从而可能对其或他人造成心理或身体伤害。

?其他可能由人工智能系统促进的影响成年人的操纵或剥削行为，可以被现有的数据保护、消费者保护和数字服务立法所涵盖，这些立法保证了这种自然的行

为人们得到适当的信息，并可自由选择不被定性或其他可能影响其行为的做法。

?该提案还禁止公共当局为一般目的进行人工智能社会评分。

?最后，使用“实时”远程除某些有限的例外情况外，禁止在公共场所使用用于执法目的的生物识别系统。

?Thefollowingartificialintelligencepracticesshallbeprohibited:

?投放市场、投入服务或使用一种人工智能系统，该系统部署超出某人意识的潜意识技术，以在实质上扭曲该人的行为，从而导致或可能导致该人或另