第2单元第8课《人工智能安全》课件 2024——2025学年浙教版（2023）初中信息技术九年级全册

第8课人工智能安全 24 … … …… 学习目标 通过分析人工智能与安全的辩证关系，能理解人工智 能既能赋能安全，又会伴生安全问题；通过学习人工智 能内生安全的内容，认识到人工智能系统的设计、制造 和使用等环节须在法律法规、国家政策、伦理道德、标 准规范的约束下进行。 1.-我们熟悉的语音识别或图像识别在应用中存在哪些 安全隐患? 2.人工智能会不会是隐私的泄密者?为什么? 探究 人工智能技术具有安全赋能和安全伴生两大效应。所谓 安全赋能是指人工智能为保障网络空间安全、提升经济社 会风险防控能力等方面提供了新手段和新途径。 所谓安全伴生是指当人工智能发展到一定阶段后，在不 断的应用中发现新的安全问题伴生而来，其安全性将受到更 严峻的挑战。 建构 能力，可以充分挖掘数据价值，预测预警经济社会运行中可能存在 的潜在风险，在智能安防监控、恶意代码检测、垃圾邮件检测、 用户实体行为分析等方面发挥助力安全的作用。 一、人工智能助力安全 在公共安全领域，人工智能依托其强大的数据分析和自主学习 一、人工智能助力安全 1.智能安防监控 安防监控涉及的人工智能技术有智能视频监控、体态识别与行 为预测和能安防机器人等技术。 智能视频监控能够将人的各种属性进行关联分析与数据挖掘，实 现安防监管的实时响应与预警。 端进行特定处理，近年来安防行业越来越多的数据和计算从云中 心迁移到摄像头、传感器等“边缘”位置，用以节省带宽、提升服 务响应速度与可靠性。 基于边缘计算的人脸识别摄像头能够直接在本地设备上完成识 别得到相关数据。在深山、矿井、远海航船等网络难以覆盖的地方， 搭载边缘计算的视频监控系统能够实时处理数据，及时做出响应， 确保安全。 一、人工智能助力安全 以往的监控摄像头把图像、视频数据传输到服务端后再由服务 垃圾邮件的检测中，当邮件中出现事先指定的一些可能属于垃圾邮 件的词语时，这封邮件很可能就是垃圾邮件，当邮件里出现网址时， 也可能是垃圾邮件。 但随着规则越来越多，这样的检测系统也变得越来越复杂。机 器学习算法可以自动地从数据的某些特征中学习它们之间的关系， 并且通过对数据的不断学习，提升垃圾邮件检测的能力和性能。 一、人工智能助力安全 2.垃圾邮件检测 人工智能技术发展的初期，使用规则对垃圾邮件进行检测。在 体验使用贝叶斯分类器算法进行垃圾邮件判定。 亲身体验 法、模型、运行等多个复杂环节，这些环节都可能导致人工智能 系统内在的安全问题。 人工智能可以助力安全，但人工智能系统涉及数据、框架、算 二、人工智能内生安全 二、人工智能内生安全 1.数据安全 数据是人工智能的重要基础。数据集的质量会直接影响人工智 能算法的执行效果。使用不同质量的数据集会在训练之后得到不 同的模型参数，产生不同的执行效果，进而影响人工智能算法的 安全性 。 地对数据进行修改在很大程度上能改变人工智能算法的执行效果。 即便是已经用高质量数据集训练完毕的人工智能算法模型，只要对 输入的数据进行一些人眼无法感知的微小扰动，即可让算法的输 出产生巨大的变化，这些经过微小扰动的输入数据就是对抗样本。 二、人工智能内生安全 数据集的质量取决于数据集的规模、均衡性、准确性等。人为 猫 噪声 黄鼠狼 (加入噪声后的图像“猫”被智能算法辨识为“黄鼠狼”) 下图显示了对抗样本及其错误辨识的结果。 体验“对抗样本”对人工智能模型可靠性的影响。实践内 容如下 ： 1. 准备原始图片数据和添加噪声后的图片数据。 2. 在Keras 上使用RexNet分类模型。 3. 查看实验结果并分析。 亲身体验 2.算法安全 如果想保证算法的完全正确，需要从理论上对算法进行证明， 证明算法在任何情况下都能产生正确的结果。 二、人工智能内生安全 二、人工智能内生安全 3.模型安全 人工智能算法往往需要训练大量的模型参数，经过训练之后生 成的模型一般以实体文件的形式保存在服务器。如果攻击者攻击了 云端服务器，利用服务器漏洞获取模型参数，可能造成严重后果。 法律法规条款部分已在现有法律体系中体现。我国目前正在多层 面推进数据安全和个人信息保护法律法规的制定，加速完善相关保 护和监管准则，对人工智能相关应用进一步明确监管要求。 三、人工智能安全发展 在人工智能涉及的网络安全、数据安全、隐私保护方面，相关 于旅游出行、电子商务、金融服务等行业。智能推荐系统在给 人们生活带来便利的同时，在实际应用中也暴露出一些安全风 险。请结合生活中的应用体验，分析智能推荐的风险挑战，并 提出相应的安全监管措施建议。 2. 搜索并学习我国有关人点智能安全方面的政策文件。 随堂练习 1. 个性化智能推荐已深度应用于新闻信息行业，也广泛应用 谢谢聆听! INTERNET OF THINGS 24 … … …… $$