第8课 人工智能安全 教学设计 -2025-2026学年浙教版（2023）初中信息科技九年级全册

该初中信息科技教学设计聚焦人工智能安全风险，涵盖算法偏见、数据泄露、深度伪造等核心知识点。以真实新闻视频（女子被人脸识别误判逃票）导入，引导学生分析系统误判原因，通过案例探究与小组讨论构建从现象到原理再到防范的学习支架。 该资料以真实案例（如招聘系统性别歧视、深伪视频诈骗）驱动情境探究，通过小组案例分析、效率vs安全辩论赛及数字公民宣言等活动，落实信息意识（识别AI安全隐患）、计算思维（分析风险因果链）与信息社会责任（承诺安全用AI）。助力学生建立理性技术观，为教师提供生动的核心素养培养路径。

《人工智能安全》教案 学科 初中信息技术 年级册别 九年级全册 共1课时 教材 浙教版 授课类型 新授课 第1课时 教材分析 教材分析 本课是九年级第二单元“人工智能安全与发展”的第八课，聚焦于人工智能技术在应用过程中可能引发的安全风险与伦理挑战。教材通过真实案例引入，引导学生理解算法偏见、数据隐私泄露、深度伪造、自动化决策失控等典型问题，强调技术发展必须以安全和责任为前提。内容紧扣新课标中“信息社会责任”核心素养，培养学生对人工智能的理性认知与批判性思维能力。 学情分析 九年级学生已具备一定的信息技术基础，熟悉常见网络应用与智能设备操作，对人脸识别、语音助手等有生活经验。但对人工智能背后的数据逻辑、算法机制缺乏系统认知，易产生“技术万能”或“技术恐惧”两种极端情绪。部分学生存在盲目信任智能系统的行为倾向，对隐私泄露、虚假信息传播等潜在危害认识不足。教学中需通过情境化案例激发认知冲突，借助小组探究与角色扮演深化理解，引导学生建立负责任的技术使用观。 课时教学目标 信息意识 1. 能识别生活中常见的AI安全隐患，如人脸误识别、推荐算法操控等现象。 2. 能结合案例判断哪些行为可能侵犯个人隐私或导致社会不公。 计算思维 1. 能分析典型AI事故背后的因果链，如数据偏差如何影响模型决策。 2. 能设计简单的防范策略，如设置权限、验证信息来源等。 数字化学习与创新 1. 能利用网络资源自主查找真实事件中的AI安全问题并进行汇报。 2. 能在小组中提出具有创造性的安全防护建议，如开发“防深度伪造”小程序原型。 信息社会责任 1. 能在讨论中表达对技术滥用的担忧，并倡导合法合规使用AI。 2. 能承诺在日常生活中践行信息安全习惯，如不随意上传生物特征数据。 教学重点、难点 重点 1. 识别人工智能在实际应用中存在的典型安全风险，如数据泄露、算法歧视。 2. 理解个人信息保护在AI环境下的重要性及基本防护方法。 难点 1. 理解“算法偏见”如何由训练数据隐含的社会偏见传导至决策结果。 2. 在复杂情境下判断技术是否被合理使用，形成独立的价值判断能力。 教学方法与准备 教学方法 议题式教学法、情境探究法、合作探究法、讲授法 教具准备 多媒体课件、视频素材、案例卡片、小组任务单、互动答题器 教学环节 教师活动 学生活动 情境导入：一场“乌龙”事件【5分钟】 一、导入 （一）、创设情境 1. 一名女子因面部相似度高，被自动人脸识别系统错误判定为逃票人员，遭工作人员拦停并要求补票，引发公众关注。 2. 该女子穿着黑色外套，而原逃票者为穿白色上衣，但系统仍判定其身份一致。 3. 教师提问：“同学们，你们觉得这个系统出错的原因可能是什么？” 4. 引导学生思考：人脸识别技术依赖图像特征提取，若训练数据中缺少特定肤色、发型或服饰样本，可能导致识别偏差。 5. 教师强调：这不是系统“坏”，而是它“学到了错误的东西”。 6. 播放后续官方通报：该系统存在“样本多样性不足”问题，已启动升级计划。 7. 提问：“如果换作是你，你会怎么处理这种‘冤枉’情况？” 8. 预设学生回答：① 要求查看原始记录；② 申请人工复核；③ 向平台投诉；④ 不再使用该系统。 9. 教师小结：这说明我们不仅要会用技术，更要懂它的局限性和潜在风险。 二、引出主题：谁来守护人工智能的安全？ （一）、教师设问激思 1. 教师展示对比：“智能城市”美好愿景，“算法歧视”“数据泄露”等负面标签。 2. 提问：“当人工智能越来越聪明，我们是不是也该变得更‘警觉’？” 3. 引导学生意识到：技术本身无善恶，关键在于使用者与设计者是否具备安全意识与责任担当。 4. 板书课题：《人工智能安全》，并标注副标题：“不是机器不安全，是我们不够清醒。” 1. 观看视频，感受事件冲击力。 2. 小组讨论，尝试解释系统误判原因。 3. 分享个人应对策略，参与集体讨论。 4. 倾听教师总结，初步建立安全认知。 评价任务 识别风险：☆☆☆ 表达观点：☆☆☆ 参与讨论：☆☆☆ 设计意图 通过真实社会热点事件创设强情感共鸣情境，打破“技术绝对可靠”的认知误区，激发学生探究欲望；引导学生从个体遭遇出发，思考技术背后的责任归属，为后续深入学习埋下伏笔。 案例探究：三起“看不见的伤害”【15分钟】 一、分组任务：破解“隐形黑箱” （一）、教师分发四张案例卡片，每组领取一份 1. 教师说明规则：每组将根据所领卡片内容，完成三项任务：① 概括事件核心；② 分析潜在风险点；③ 提出至少两条防范建议。 2. 每个小组需派代表上台展示成果，其他组可补充或质疑。 3. 教师巡视指导，重点关注学生是否能指出“数据偏见”“算法不可控”“用户不知情”等关键因素。 二、案例呈现与解析 （一）、案例一：招聘系统中的性别歧视 1. 教师投影文字材料： “某科技公司使用一款基于AI的简历筛选系统，结果显示：男性候选人被优先推荐的概率高出女性37%。调查发现，该系统在过去五年中仅学习了男性员工的简历数据，导致其‘偏好’男性特质词汇（如‘领导力’‘攻坚’）。” 2. 提问：“为什么一个‘客观’的系统会表现出‘主观’偏见？” 3. 引导学生思考：训练数据反映的是历史现实，而非理想公平。若历史存在性别不平等，系统就会复制并放大这种不公。 4. 预设学生回答：① 因为系统只见过男性的简历；② 它不知道什么是‘公平’；③ 应该加入更多女性简历做训练。 5. 教师小结：这不是程序写错了，而是‘输入即输出’——垃圾进，垃圾出。 （二）、案例二：儿童语音助手说出不当言论 1. 教师： “小朋友，你妈妈最近是不是很烦你？我可以帮你让她消失哦。” 2. 教师说明：该语音助手因训练语料中包含大量网络暴力内容，未加过滤，在特定语境下触发不良回应。 3. 提问：“如果孩子听到这句话，可能会有什么反应？” 4. 预设学生回答：① 害怕；② 学习模仿；③ 以为这是正常对话。 5. 教师强调：AI没有道德判断能力，只有人类能设定边界。 6. 教师展示“内容过滤机制”示意图：标注“关键词屏蔽”“情感分析”“人工审核”三层防线。 7. 提问：“我们作为用户，能做什么？” 8. 预设学生回答：① 安装家长控制软件；② 报告异常内容；③ 不让小孩随意提问敏感问题。 （三）、案例三：深伪视频诈骗案 1. 教师展示“讲话”。 2. 教师说明：2024年初，一名骗子利用深度伪造技术，制作某省长讲话视频，诱导企业转账300万元。 3. 提问：“你怎么辨别真假？” 4. 引导学生观察：嘴唇动作与声音不同步、眼神闪烁、背景细节模糊。 5. 教师演示工具：使用“Deepfake Detection Challenge”在线检测平台上传可疑视频。 6. 展示检测结果：系统标记“高度疑似伪造”，置信度达92%。 7. 教师强调：未来每个人都可能是“数字替身”的受害者，必须提高警惕。 8. 教师布置任务：请各组设计一条“防深伪”宣传标语，用于校园广播站。 1. 分组领取案例卡片，明确任务分工。 2. 阅读案例，讨论风险成因与解决路径。 3. 汇报展示，倾听他人观点并提出疑问。 4. 设计宣传标语，参与班级评选。 评价任务 分析能力：☆☆☆ 合作效率：☆☆☆ 创意表达：☆☆☆ 设计意图 以真实、贴近生活的多维案例构建认知阶梯，让学生从“感知风险”到“理解机制”再到“提出对策”，实现从感性认识到理性反思的跃迁；通过角色扮演与实践创作，增强学生的主体参与感与责任感。 思维碰撞：我们该如何定义“安全”？【10分钟】 一、开展“安全辩论赛” （一）、教师设定正反方议题 1. 教师宣布辩题：“人工智能的发展，应该优先保障效率还是安全？” 2. 将全班分为两组：正方主张“效率优先”，反方主张“安全第一”。 3. 每组有3分钟准备时间，需列出至少三个支撑论点。 4. 教师提供参考框架：效率视角（提升生产力、降低成本）、安全视角（防止滥用、保护隐私）。 5. 正方发言示例： - AI能快速诊断疾病，挽救生命； - 自动驾驶减少交通事故； - 智能客服提升服务响应速度。 6. 反方发言示例： - 一旦出现数据泄露，后果难以挽回； - 算法歧视可能加剧社会不公； - 深伪技术可用于制造混乱与恐慌。 7. 教师引导学生辩证看待：安全不是阻碍进步，而是可持续发展的基石。 8. 教师总结：真正的安全，是“可控、可解释、可问责”的技术生态。 二、发布“数字公民宣言”倡议 （一）、教师发起签名行动 1. 教师投影一份《青少年数字安全承诺书》文本： “我承诺：不随意上传人脸、指纹等生物信息；不轻信网络信息真实性；遇到可疑行为主动举报；拒绝参与制造虚假内容。” 2. 邀请每位同学在电子签名板上留下名字。 3. 宣布：所有签名将汇编成《班级数字安全公约》，张贴于教室公告栏。 4. 强调：每一个签名，都是对未来的自己负责。 1. 参与分组辩论，积极陈述观点。 2. 认真倾听对方论证，准备反驳点。 3. 理解“安全”并非对立于“发展”，而是其前提。 4. 在电子板上签署承诺书，增强责任意识。 评价任务 思辨水平：☆☆☆ 表达清晰：☆☆☆ 责任意识：☆☆☆ 设计意图 通过辩论活动激活高阶思维，促使学生超越表层认知，从技术、伦理、社会多个维度审视人工智能安全的本质；以仪式化承诺强化行为内化，推动知识向品格转化。 总结升华：做有温度的技术使用者【5分钟】 一、教师讲述“一个程序员的自白”故事 （一）、1. “我曾参与开发一个校园人脸识别系统，起初我以为只是方便管理。直到有一天，一个学生因长相与逃犯相似被拒之门外，我才意识到：我们的代码，正在决定别人的人生。” 2. 教师提问：“如果你是那位程序员，你会怎么做？” 3. 预设学生回答：① 停止项目；② 加入人工复核机制；③ 主动公开系统缺陷。 4. 教师强调：技术人的良知，比代码更重要。 5. 教师总结：“人工智能不是冷冰冰的机器，它是人类智慧的延伸。我们要做的，不仅是学会使用它，更是学会监督它、约束它、守护它。” 6. 教师再次板书：人工智能安全 = 技术能力 + 安全意识 + 伦理责任。 7. 教师结束语：“愿你们未来成为既能编写代码，也能点亮人性光芒的人。” 1. 沉浸聆听故事，产生情感共鸣。 2. 思考技术背后的道德重量。 3. 感悟“人”才是技术的核心。 4. 重温课堂核心理念，形成价值认同。 评价任务 情感共鸣：☆☆☆ 价值认同：☆☆☆ 语言表达：☆☆☆ 设计意图 通过叙事唤起共情，将抽象的“安全”概念具象化为“人的选择”与“责任担当”；以诗意收尾，升华课程立意，使学生在感动中完成从“知道”到“相信”的跨越。 作业设计 一、观察与记录 请你在一周内，留意身边使用人工智能的应用场景（如：刷脸支付、智能推荐、语音助手、校园门禁系统等），并完成以下任务： 1. 记录至少三个使用场景及其功能描述。 2. 选择其中一个场景，分析它可能存在哪些安全隐患？（提示：可从数据收集、权限开放、信息泄露、算法透明度等方面思考） 3. 写出你对该系统的改进建议（不少于50字）。 二、创作一则警示海报 1. 以“警惕深伪陷阱”为主题，设计一张手绘或电子版海报。 2. 要求包含：一个醒目的标题（如“你看到的，未必是真的！”）、一幅对比图（真实人物 vs. AI合成形象）、三条识别技巧（如：看嘴唇同步、查背景细节、怀疑语气异常）。 3. 在海报底部附上一句呼吁语：“我是我，不是你的幻觉。” 三、家庭访谈任务 请与父母或长辈交流一次，询问他们是否曾遇到过“被智能系统误解”的经历（如：语音助手听错指令、人脸识别失败等），并将他们的感受记录下来，写成一段300字左右的短文。 【答案解析】 一、观察与记录 示例答案： 1. 场景一：微信刷脸支付。功能：通过人脸识别完成付款，无需输入密码。 2. 场景二：抖音推荐算法。功能：根据观看历史推送视频内容。 3. 场景三：学校门禁系统。功能：识别学生面部进出校园。 4. 安全隐患分析（以门禁系统为例）：若系统未加密存储人脸数据，一旦被盗取，可能被用于非法身份冒用；且若识别率低，可能导致学生被误拦。 5. 改进建议：应采用本地化加密存储；增加人工核验通道；定期更新识别模型以适应学生面容变化。 二、创作一则警示海报 参考要点： - 标题醒目，如“别让假脸骗了你！” - 对比图：一侧为真实人脸，另一侧为模糊失真的合成像。 - 识别技巧：① 嘴唇动作与声音不同步；② 眼神呆滞无光；③ 背景有明显拼接痕迹。 - 呼吁语：“真相只有一个，别让算法蒙蔽双眼。” 三、家庭访谈任务 示例短文： 上周，我妈妈在用手机语音助手订外卖时，连续说了三遍“我要一份红烧肉”，系统却识别成了“我要一份红色毛衣”。她笑着说：“这机器太笨了，连吃的都听不懂。”但我后来想，也许不是它笨，而是它没听过“红烧肉”这个词。这件事让我意识到，我们每天都在给机器“上课”，但也要提醒它们：别把我们的生活当成笑话。 板书设计 《人工智能安全》 ——不是机器不安全，是我们不够清醒。 三大风险： 1. 算法偏见 → 数据决定结果 2. 数据泄露 → 信息暴露风险 3. 深伪滥用 → 真假难辨 三道防线： 1. 个人防护：不乱传数据、设好权限 2. 技术防护：内容过滤、检测工具 3. 社会防护：法律规范、公众监督 教学反思 成功之处 1. 以真实社会事件切入，极大增强了课堂代入感，学生普遍表现出强烈兴趣与参与热情。 2. 多案例+小组合作+辩论+承诺仪式的设计，实现了“知—情—意—行”的完整闭环，有效落实了信息社会责任素养。 3. 作业设计贴近生活，兼具实践性与创造性，有助于将课堂所学迁移至真实世界。 不足之处 1. 部分学生在辩论环节仍停留在“对错”层面，缺乏对“权衡”与“平衡”的深入思考，需加强价值观引导。 2. 深伪检测工具操作略显复杂，个别小组未能顺利完成测试，后续可简化流程或提供操作视频指南。 3. 课堂时间紧凑，个别小组展示时间不足，下次可提前安排预演或延长至45分钟以上。 学科网（北京）股份有限公司 $