第8课 人工智能安全 教学设计-2026-2027学年浙教版初中信息科技九年级全一册

浙教版信息技术《第8课 人工智能安全》教学设计 课题 单元 学科 信息 年级 学习 目标 信息意识：感知人工智能应用中的各类安全风险，敏锐识别数据泄露、算法漏洞等安全隐患，树立AI安全防范意识。 计算思维：辩证分析AI安全的双重属性，梳理内生与外部安全问题的成因，形成规范的风险辨析逻辑。 数字化学习与创新：结合生活案例探究AI防护方法，尝试设计简易安全防护方案。 信息社会责任：恪守AI伦理与法律法规，规范使用智能工具，主动维护清朗的人工智能应用环境。 重点 教学重点：掌握人工智能安全的双重特性，理解AI安全赋能与安全伴生的核心内涵，熟练掌握人工智能内生安全中数据、算法、模型三大核心安全问题，明确日常AI应用的基本防护方法。 教学难点：深度理解对抗样本攻击等隐性AI安全漏洞的原理，能够结合真实场景辨析复杂AI安全风险，树立自主可控的人工智能安全发展理念。 难点 教学过程 教学环节 师生活动 设计意图 导入新课 教师播放短视频，内容涵盖智能人脸识别解锁、AI反诈系统的安全应用，以及人脸识别被破解、AI换脸诈骗的真实案例。随后提问学生：“人工智能既保护了我们的生活安全，又带来了新的安全隐患，结合你的日常使用经历，说说你遇到或听说过的AI安全问题？”引导学生自由发言，结合生活实例交流探讨，顺势引出本节课主题——人工智能安全。 依托正反对比的真实案例，贴近学生生活实际，快速吸引学生注意力，激活学生已有生活经验，引发学生对AI安全的思考，自然切入新课主题，铺垫课堂学习氛围。 讲授新课 板块一：人工智能的双重安全属性——安全赋能与安全伴生 教师首先结合教材定义，向学生明确人工智能与安全的辩证关系，讲解人工智能具备安全赋能和安全伴生两大核心属性，这是人工智能安全的核心基础认知。为帮助学生清晰区分两个概念，教师结合生活、社会场景展开细致讲解，并组织师生互动探究活动。 教师讲解：安全赋能是指人工智能技术为社会安全、网络安全、生活安全提供全新的解决手段，大幅提升风险防控效率和安全防护能力。在公共安全领域，智能监控系统可以实时识别异常行为、追踪可疑人员，辅助公安部门维护社会治安；在网络安全领域，AI防火墙能够智能识别病毒、木马和网络攻击，相较于传统防护手段，能够快速拦截新型网络威胁；在民生领域，AI反诈系统可以实时监测电信诈骗、网络诈骗行为，提前预警风险，保护群众财产安全；智能家居的智能安防设备，能够实时监测火情、燃气泄漏，守护家庭安全。 随后教师发起互动提问：“除了老师提到的场景，大家还能想到哪些人工智能安全赋能的实例？”学生结合日常所见所思，踊跃发言，有的学生提到智能交通系统抓拍违章、疏导车流，保障出行安全；有的学生提到校园智能门禁系统，保障校园安全。教师对学生的回答予以肯定，并总结补充，让学生全面认识AI对安全的正向赋能作用。 在讲解安全伴生属性时，教师引导学生反向思考：“人工智能在为我们保驾护航的同时，为什么会伴随新的安全风险？”教师结合教材内容讲解，人工智能技术的快速普及，依托数据、算法、模型运行，其技术本身和应用过程中，会衍生出全新的安全隐患，这类风险是传统信息技术场景中极少出现的，具有隐蔽性、新型化、智能化的特点。 教师展示典型案例：AI换脸诈骗、语音合成冒充亲友借钱、人脸识别漏洞、智能设备数据泄露等真实社会案例。同时组织小组讨论：“对比传统网络安全问题，人工智能衍生的安全风险有哪些独特特点？”学生分组交流讨论后，各组代表依次发言，总结出AI安全风险更隐蔽、欺骗性更强、技术门槛更高、难以人工识别等特点。教师汇总学生观点，总结安全伴生的核心内涵：技术赋能的同时，必然伴随新型安全风险，二者相辅相成，是人工智能发展的必然特征。 最后教师小结本板块内容：我们要辩证看待人工智能安全问题，不能只看到技术带来的便利，忽视潜在风险，也不能因噎废食否定AI技术的价值，学会理性认知AI的双重安全属性，是做好AI安全防护的基础。 板块二：人工智能内生安全（核心重难点） 教师过渡导入：人工智能的安全风险，不仅来自外部的不当使用，更源于技术本身的内部漏洞，也就是教材中重点讲解的人工智能内生安全。内生安全是AI系统本身存在的安全缺陷，主要包含数据安全、算法安全、模型安全三个核心维度，是本节课的重点学习内容。 第一，讲解人工智能数据安全。教师结合教材内容讲解，数据是人工智能的核心基础，AI模型的训练、运行、迭代都需要海量数据支撑，数据的安全直接决定AI系统的安全。教师详细拆解数据安全的两大核心问题：数据泄露、数据污染。 针对数据泄露，教师提问：“我们日常使用AI绘图、AI问答、人脸打卡、智能支付时，会上传哪些个人数据？这些数据可能存在什么风险？”学生结合自身使用体验，回答会上传人脸信息、手机号、聊天记录、个人作品、身份信息等，可能被非法获取、滥用。教师补充讲解，很多AI平台存在数据收集过度、数据存储不规范、数据传输加密不到位等问题，导致用户个人隐私数据泄露，被不法分子用于诈骗、精准营销、信息倒卖等违法活动。同时结合教材案例，讲解企业AI训练数据集泄露，会造成大规模用户隐私泄露，引发公共安全问题。 针对数据污染，教师讲解：AI模型依靠海量数据训练得出决策逻辑，若训练数据存在错误、残缺、偏见、恶意篡改等问题，就会造成数据污染。教师举例说明：若人脸识别模型的训练数据中，某类人群样本过少，会导致识别准确率低，出现识别失误；若恶意人员向训练数据中注入虚假数据，会导致AI模型决策出错，引发安全事故。随后师生互动：学生列举生活中可能存在的AI数据污染场景，教师逐一点评补充，深化学生认知。 第二，讲解人工智能算法安全。教师讲解：算法是人工智能的核心逻辑，是AI做出判断、决策的依据，算法漏洞和算法偏见是主要的算法安全问题。首先讲解算法漏洞，算法代码编写缺陷、逻辑设计不合理，会产生安全漏洞，不法分子可以利用漏洞绕过系统防护，篡改AI决策结果。其次重点讲解算法偏见，算法看似客观，实则由人类设计、依托人类数据训练，会继承人类社会的偏见与误差。 教师展示教材典型案例：部分智能招聘AI算法，因训练数据中男性职场样本更多，出现性别偏见，优先筛选男性求职者；部分智能安防算法，对特定人群识别准确率偏差，造成误判。教师组织学生思考讨论：“算法偏见会带来哪些社会安全问题？”学生交流后总结，算法偏见会造成公平性缺失、决策不公，甚至引发社会矛盾，违背人工智能公平、公正的发展原则。教师进一步强调，算法安全不仅是技术问题，更是伦理与安全问题。 第三，讲解人工智能模型安全。教师结合教材内容，讲解AI模型是数据与算法的最终载体，模型训练、部署、应用过程中存在诸多安全风险，其中最典型的是对抗样本攻击，也是本节课的教学难点。教师通俗化拆解难点：对抗样本攻击是指不法分子通过微小、人类肉眼无法察觉的修改，改变图像、语音、文字等数据内容，欺骗AI模型，让AI做出错误判断，而人类无法识别异常。 教师展示直观案例：自动驾驶场景中，不法分子轻微修改交通标识图案，人类肉眼无法看出差别，但自动驾驶AI模型会识别错误，误判交通信号，引发交通事故；人脸识别场景中，通过细微的像素修改，可绕过人脸识别系统，实现非法解锁。教师通过图文对比的方式，让学生直观感受对抗样本的隐蔽性和危害性。随后师生互动，教师提问：“对抗样本攻击为什么难以防范？”学生思考回答后，教师总结：攻击隐蔽性强、针对性强、普通用户无法识别、常规防护手段无法拦截，是AI模型特有的新型安全漏洞。 教师最后整合本板块知识，引导学生梳理：内生安全是AI技术本身的安全缺陷，数据、算法、模型三者环环相扣，任一环节出现问题，都会引发整体AI安全风险，是人工智能安全防护的核心突破口。 板块三：人工智能安全发展与防护规范 教师过渡提问：“了解了人工智能的各类安全风险后，我们该如何防范风险，推动人工智能安全、健康发展？”结合教材第三板块内容，从个人防护、行业规范、国家监管三个维度展开讲解，同时渗透信息社会责任素养。 首先，个人层面的AI安全防护。教师结合学生日常行为，讲解贴合学生生活的防护方法，开展师生互动教学。教师提问：“我们日常使用各类AI工具时，应该如何保护自身信息安全？”学生自主思考发言，总结出不随意上传个人隐私信息、不滥用AI换脸、AI合成工具、不点击陌生AI链接、谨慎授权AI软件权限等方法。教师补充完善，系统梳理个人防护准则：坚守隐私保护底线，规范使用AI工具，主动辨别AI虚假信息，提高AI诈骗辨别能力。 其次，行业与技术层面的安全防护。教师讲解，企业在研发、应用AI技术时，需坚守安全底线，规范数据收集、存储、使用流程，做好数据加密处理；优化算法设计，消除算法偏见，保障AI决策公平公正；完善AI模型检测机制，定期排查模型漏洞，抵御对抗样本攻击等新型风险，从技术源头规避内生安全问题。 最后，国家监管与安全发展。教师结合教材内容，讲解我国出台的《个人信息保护法》《生成式人工智能服务管理暂行办法》等相关法律法规，明确AI研发和应用的法律边界。强调人工智能安全发展的核心原则：安全可控、公平公正、合规合法、自主可控。教师重点解读“自主可控”的意义，核心技术自主创新，才能从根本上保障国家人工智能安全，规避技术垄断带来的安全风险。 在此基础上，教师开展课堂探究活动：“作为新时代青少年，我们在人工智能时代应承担哪些信息社会责任？”学生小组讨论后发言，教师总结升华：青少年不仅要学会自我防护，更要树立正确的AI伦理观，尊重隐私、坚守公平、恪守法规，拒绝使用AI制作虚假、不良、违法内容，主动抵制AI违规行为，积极传播安全、合规的AI使用理念。 本节课新课讲解遵循“认知—探究—实践—升华”的学习逻辑，紧扣浙教版新教材三大核心板块。以学生为主体，通过案例分析、小组探究、师生互动等多元形式，帮助学生层层突破重难点，从表层认知AI安全现象，深入理解安全原理与防护方法，同时渗透信息社会责任，实现知识学习、能力培养与素养提升的统一。 课堂小结 本节课我们系统学习了浙教版教材人工智能安全的核心知识，首先认识了人工智能安全的双重属性，明确AI兼具安全赋能的正向价值和安全伴生的潜在风险。其次重点掌握了人工智能内生安全的三大核心维度，清晰了解数据泄露与污染、算法偏见与漏洞、模型对抗攻击等各类安全隐患，突破了对抗样本攻击这一学习难点。同时掌握了个人、行业、国家三个层面的AI安全防护方法与规范。本节课的学习让我们树立了辩证的AI安全认知，今后我们将恪守AI伦理与法规，规范使用智能工具，主动防范AI安全风险，践行新时代青少年的信息社会责任。 说出本节课自己学会什么 归纳知识 板书设计 第8课 人工智能安全 一、AI安全双重属性 1. 安全赋能：安防、反诈、网络防护、民生保障 2. 安全伴生：衍生新型、隐蔽化AI安全风险 二、AI内生安全（重难点） 1. 数据安全：泄露、污染 2. 算法安全：漏洞、偏见不公 3. 模型安全：对抗样本攻击（难点） 三、AI安全发展与防护 1. 个人：规范使用、保护隐私、辨别风险 2. 行业：技术优化、源头防控风险 3. 国家：法规监管、自主可控、安全合规 四、核心素养：守伦理、遵法规、担责任 www.21cnjy.com 精品试卷·第 2 页 （共 2 页） 学科网（北京）股份有限公司 学科网（北京）股份有限公司 $