九年级信息技术浙教版《人工智能安全》课件.pptxVIP

第8课人工智能安全;

学习目标

通过分析人工智能与安全的辩证关系，能理解人工智能既能赋能安全，又会伴生安全问题；通过学习人工智能内生安全的内容，认识到人工智能系统的设计、制造和使用等环节须在法律法规、国家政策、伦理道德、标;

1.-我们熟悉的语音识别或图像识别在应用中存在哪些

安全隐患?

2.人工智能会不会是隐私的泄密者?为什么?;

人工智能技术具有安全赋能和安全伴生两大效应。所谓

安全赋能是指人工智能为保障网络空间安全、提升经济社会风险防控能力等方面提供了新手段和新途径。

所谓安全伴生是指当人工智能发展到一定阶段后，在不断的应用中发现新的安全问题伴生而来，其安全性将受到更严峻的挑战。;

能力，可以充分挖掘数据价值，预测预警经济社会运行中可能存在

的潜在风险，在智能安防监控、恶意代码检测、垃圾邮件检测、

用户实体行为分析等方面发挥助力安全的作用。;

一、人工智能助力安全

1.智能安防监控

安防监控涉及的人工智能技术有智能视频监控、体态识别与行;

端进行特定处理，近年来安防行业越来越多的数据和计算从云中

心迁移到摄像头、传感器等“边缘”位置，用以节省带宽、提升服务响应速度与可靠性。

基于边缘计算的人脸识别摄像头能够直接在本地设备上完成识

别得到相关数据。在深山、矿井、远海航船等网络难以覆盖的地方，搭载边缘计算的视频监控系统能够实时处理数据，及时做出响应，

确保安全。;

垃圾邮件的检测中，当邮件中出现事先指定的一些可能属于垃圾邮

件的词语时，这封邮件很可能就是垃圾邮件，当邮件里出现网址时，也可能是垃圾邮件。

但随着规则越来越多，这样的检测系统也变得越来越复杂。机器学习算法可以自动地从数据的某些特征中学习它们之间的关系，并且通过对数据的不断学习，提升垃圾邮件检测的能力和性能。;

体验使用贝叶斯分类器算法进行垃圾邮件判定。;

法、模型、运行等多个复杂环节，这些环节都可能导致人工智能

系统内在的安全问题。;

二、人工智能内生安全

1.数据安全

数据是人工智能的重要基础。数据集的质量会直接影响人工智;

地对数据进行修改在很大程度上能改变人工智能算法的执行效果。

即便是已经用高质量数据集训练完毕的人工智能算法模型，只要对输入的数据进行一些人眼无法感知的微小扰动，即可让算法的输出产生巨大的变化，这些经过微小扰动的输入数据就是对抗样本。;

猫噪声黄鼠狼

(加入噪声后的图像“猫”被智能算法辨识为“黄鼠狼”);

体验“对抗样本”对人工智能模型可靠性的影响。实践内

容如下：

1.准备原始图片数据和添加噪声后的图片数据。

2.在Keras上使用RexNet分类模型。

3.查看实验结果并分析。;

2.算法安全

如果想保证算法的完全正确，需要从理论上对算法进行证明，;

二、人工智能内生安全

3.模型安全

人工智能算法往往需要训练大量的模型参数，经过训练之后生;

法律法规条款部分已在现有法律体系中体现。我国目前正在多层

面推进数据安全和个人信息保护法律法规的制定，加速完善相关保护和监管准则，对人工智能相关应用进一步明确监管要求。;

于旅游出行、电子商务、金融服务等行业。智能推荐系统在给

人们生活带来便利的同时，在实际应用中也暴露出一些安全风险。请结合生活中的应用体验，分析智能推荐的风险挑战，并提出相应的安全监管措施建议。

2.有哪些信誉好的足球投注网站并学习我国有关人点智能安全方面的政策文件。;

谢谢聆听!

INTERNETOFTHINGS