第8课《人工智能安全》课件 浙教版信息科技九年级上册.pptx

第8课

人工智能安全（浙教版）九年级全

01教学目标02新知导入03人工智能助力安全04人工智能内生安全05人工智能安全发展06拓展延伸08课堂小结09板书设计07课堂练习

01教学目标1、信息意识：能够认识到人工智能在生活中的广泛应用，主动关注人工智能安全相关的新闻和事件，了解其对个人和社会的影响。2、计算思维：能够运用逻辑推理和问题求解的能力，提出解决人工智能安全问题的思路和方法，培养批判性思维。3、数字化学习与创新：能运用所学知识，尝试创新地设计和开发简单的人工智能安全解决方案或工具，培养创新意识和实践能力。4、信息社会责任：明确在使用人工智能技术时应遵守的道德规范和法律法规，自觉维护人工智能安全和个人隐私。

02新知导入通过分析人工智能与安全的辩证关系，能理解人工智能既能赋能安全，又会伴生安全问题;通过学习人工智能内生安全的内容，认识到人工智能系统的设计、制造和使用等环节须在法律法规、国家政策、伦理道德、标准规范的约束下进行。探究：1、我们熟悉的语音识别或图像识别在应用中存在哪些安全隐患?2、人工智能会不会是隐私的泄密者?为什么?

02新知导入人工智能技术具有安全赋能和安全伴生两大效应。所谓安全赋能是指人工智能为保障网络空间安全、提升经济社会风险防控能力等方面提供了新手段和新途径。所谓安全伴生是指当人工智能发展到一定阶段后，在不断的应用中发现新的安全问题伴生而来，其安全性将受到更严峻的挑战。

03人工智能助力安全在公共安全领域，人工智能依托其强大的数据分析和自主学习能力，可以充分挖掘数据价值，预测预警经济社会运行中可能存在的潜在风险，在智能安防监控、恶意代码检测、垃圾邮件检测、用户实体行为分析等方面发挥助力安全的作用。

03人工智能助力安全1.智能安防监控安防监控涉及的人工智能技术有智能视频监控、体态识别与行为预测和智能安防机器人等技术。智能视频监控能够将人的各种属性进行关联分析与数据挖掘，实现安防监管的实时响应与预警。

03人工智能助力安全以往的监控摄像头把图像、视频数据传输到服务端后再由服务端进行特定处理，近年来安防行业越来越多的数据和计算从云中心迁移到摄像头、传感器等“边缘”位置，用以节省带宽、提升服务响应速度与可靠性。基于边缘计算的人脸识别摄像头能够直接在本地设备上完成识别得到相关数据。在深山、矿井、远海航船等网络难以覆盖的地方，搭载边缘计算的视频监控系统能够实时处理数据，及时做出响应，确保安全。

03人工智能助力安全2.垃圾邮件检测人工智能技术发展的初期，使用规则对垃圾邮件进行检测。在垃圾邮件的检测中，当邮件中出现事先指定的一些可能属于垃圾邮件的词语时，这封邮件很可能就是垃圾邮件，当邮件里出现网址时，也可能是垃圾邮件。

03人工智能助力安全但随着规则越来越多，这样的检测系统也变得越来越复杂。机器学习算法可以自动地从数据的某些特征中学习它们之间的关系，并且通过对数据的不断学习，提升垃圾邮件检测的能力和性能。

03体验使用贝叶斯分类器算法进行垃圾邮件判定。使用贝叶斯分类器进行垃圾邮件判定，需先收集正常邮件和垃圾邮件数据并预处理，转换为特征向量。接着在训练阶段计算先验概率和条件概率，构建分类器。测试时用分类器对邮件分类并评估性能。体验中，准确性较高时能正确识别垃圾邮件且不误判正常邮件，可解释性强，能查看单词条件概率了解对判定的贡献，但也有局限性，对新类型或特定领域邮件可能表现不佳，且受邮件多样性和复杂性影响。亲身体验人工智能助力安全

03我们熟悉的语音识别或图像识别在应用中存在哪些安全隐患?语音识别安全隐患：1.声音模仿与伪造，如利用语音合成技术或录音重放攻击欺骗系统。2.背景噪声干扰影响识别准确性。3.隐私泄露，语音数据若保护不当易被窃取。图像识别安全隐患：1.图像伪造与篡改，包括使用图像编辑软件和对抗样本攻击。2.模型窃取与逆向攻击，侵犯知识产权并获取敏感信息。3.隐私泄露，图像含个人信息，安全措施不足易泄露。4.物理攻击，如放置物体干扰或破坏摄像头组件。新知拓展人工智能助力安全

03新知拓展人工智能助力安全

04人工智能内生安全人工智能可以助力安全，但人工智能系统涉及数据、框架、算法、模型、运行等多个复杂环节，这些环节都可能导致人工智能系统内在的安全问题。1.数据安全数据是人工智能的重要基础。数据集的质量会直接影响人工智能算法的执行效果。使用