第30课 应对智能新挑战课件2025-2026学年人教版信息科技四年级 全一册

该小学信息科技课件聚焦生成式AI的局限性，通过“温故知新”回顾AI在写作、绘画等场景的应用，以“AI是否完美”设问导入，引导学生发现理解错误、事实错误等四类问题，搭建前后知识衔接的学习支架。 其特色是用“小医生”诊断AI错误案例和“小练习”互动，培养信息意识与计算思维，结合《生成式人工智能服务管理暂行办法》渗透信息社会责任。采用案例教学法，学生能提升批判性思维与信息辨别力，教师可高效开展AI素养教学。

第30课 应对智能新挑战 第六单元 · 人工智能耀未来 当AI技术飞速发展，机遇与挑战并存。在这一课中，我们将共同探索人工智能带来的新难题，思考如何用智慧和理性去面对、去解决，为未来的科技世界做好准备。 1.7.2013 同学们好！今天我们进入一个非常前沿的话题——人工智能。上节课我们体验了AI的神奇，这节课，我们将深入探讨，当AI遇到挑战时，我们该如何应对。让我们一起走进第30课，《应对智能新挑战》。 ‹#› 温故知新：神奇的生成式AI 妙笔生花写作文 我们让AI以“雨后的彩虹”为题，它创作了意境优美、辞藻生动的文章，仿佛一位才华横溢的小作家。 才思敏捷作诗词 面对“春夏秋冬”的藏头要求，AI即兴成诗，对仗工整，韵律和谐，展现了惊人的文学储备。 灵心慧性绘丹青 无论是晶莹剔透的牡丹花，还是古诗意境的写意画，AI都能精准捕捉细节，画出令人惊艳的作品。 运筹帷幄做规划 从环保志愿活动的流程安排，到时间节点的把控，AI为我们量身定制了详实可行的活动计划。 生成式AI给生活带来了巨大便利，看似无所不能。但它真的完美无缺吗？在使用中，我们是否发现了奇怪的现象或错误？今天，就让我们一起探寻智能时代的新挑战！ 1.7.2013 大家还记得上节课我们玩的生成式AI吗？它能写作文、能画画，非常厉害。但大家有没有想过，AI是不是永远正确呢？它会不会也犯错误？今天，我们就来当一回小侦探，看看AI的“小毛病”。 ‹#› 本节课，我们要学会…… 01 发现问题 深入了解生成式人工智能在内容生成过程中，可能出现的事实错误、逻辑混乱、偏见误导等常见问题，建立对AI局限性的认知。 02 学会应对 掌握交叉验证信息来源、调整提示词引导、人工审核校对等应对策略，有效规避AI生成内容带来的风险，提升使用效率。 03 培养意识 始终保持对AI内容的辨识与警惕，不盲目轻信。树立负责任的使用观念，在学习和工作中合理利用AI工具，避免过度依赖。 04 了解规范 初步认知国家针对人工智能发展制定的法律法规与伦理准则，理解规范的重要性，做一个懂法、守法的AI使用者。 1.7.2013 这节课，我们有四个学习目标。首先，要发现AI可能犯的错误。其次，要学会怎么应对这些错误。接着，要培养自己辨别信息的意识。最后，我们还要了解国家对AI有哪些规定。学完这节课，你就能成为一个智慧的AI使用者！ ‹#› AI也会“犯错误”，我们来当“小医生”！ 生成式AI就像一个正在快速学习的“超能学生”，虽然知识渊博，但有时也会犯一些“小毛病”。这些错误可能会误导我们，所以接下来，我们将通过真实案例，来诊断AI常见的四种“病症”。 01. 望文生义，理解错误 AI可能仅根据字面意思理解，无法结合语境或常识判断，导致对词语、句子的含义产生完全错误的解读。 02. 答非所问，文不对题 面对具体问题时，AI的回答偏离核心主题，说一些无关的内容，或者逻辑跳跃，无法紧扣问题给出有效回应。 03. 张冠李戴，无中生有 AI可能会混淆人物、事件、时间或地点的对应关系，甚至编造出不存在的事实、数据或来源，听起来却很“真实”。 04. 计算错误，不够严谨 在处理数学运算、逻辑推理或复杂数据时，AI可能出现低级计算失误，或者推理过程不严谨，得出错误的结论。 1.7.2013 没错，AI也会犯错误！它就像一个聪明但有点粗心的同学。今天，我们就要来当“小医生”，诊断一下AI常见的四种“病症”。大家做好准备，我们来看第一个案例。 ‹#› 病症一：望文生义，理解错误 ❌ 早期误读 (2023.03) AI仅理解“司马光”“砸”“缸”的字面含义，未能建立典故的逻辑关联，生成了人物被“砸”进缸里的怪异画面，完全背离故事本意。 需求指令：“请画一幅‘司马光砸缸’的图画。” ✅ 逻辑修正 (2023.07) 经过模型迭代与知识增强，AI正确理解了“救人”的核心逻辑，生成了孩童落水、司马光持石砸缸的经典场景，准确还原了历史典故的情节。 核心突破：AI建立了词汇间的因果联系，而非孤立匹配。 现象剖析：早期AI的“望文生义”暴露了其在处理复杂语义、语境关联时的局限性。这一进化过程证明，AI对人类语言的理解并非一蹴而就，而是通过海量数据学习与逻辑规则优化，逐步从“字词拼凑”走向“意图理解”的动态过程。 1.7.2013 第一个病症叫“望文生义”。大家看，当我们让AI画“司马光砸缸”时，早期的AI画成了一个人被砸进缸里，这完全理解错了！后来经过改进，AI才画出了正确的典故。这告诉我们，AI对语言的理解需要不断学习。 ‹#› 小练习：请你当裁判 情景：用户向AI提出需求：“请帮我画一只‘会飞的猪’。” AI生成了三个不同的结果，你能判断出哪一个是AI“理解错误”的表现吗？ A) 创意融合 一只长着白色翅膀的粉色小猪，自由自在地在天空中飞翔，完美融合了“猪”与“飞”。 B) 简单并列 一只普通的小猪站在飞机场旁边，仅将“猪”和代表“飞”的“机场”生硬摆在一起，无实质关联。 C) 场景结合 一只卡通小猪坐在玩具飞机驾驶座里，通过场景设定巧妙地实现了“猪”驾驶飞机“飞”的效果。 答案：B（理解错误）。A和C都正确理解了“会飞的猪”是一个整体概念，通过具象化的翅膀或场景设定实现了“猪”与“飞”的有机融合。而B只是将“飞”（机场）和“猪”两个孤立的元素进行物理上的并列放置，未能理解用户的核心创意意图，属于典型的“望文生义”错误。 1.7.2013 现在来考考大家。如果让AI画一只“会飞的猪”，哪个选项是AI理解错误的表现呢？没错，是B！它把“飞”和“猪”简单地放在了一起，而没有理解“会飞的猪”是一个整体概念。 ‹#› 病症二：答非所问，文不对题 如上图所示，用户明确请求“根据诗句作画”，但AI系统完全忽略了生成图像的核心指令，转而输出了大段的文字赏析，形成了典型的“文不对题”交互。 用户真实诉求：生成画作 用户引用“黄四娘家花满蹊”，核心指令是“画一幅画”，属于从文本到视觉的跨模态生成需求。 AI认知偏差：模态理解错位 AI对复杂的跨领域指令理解能力有限，未能识别“作画”这一核心动作，反而触发了“诗词检索与赏析”的文本模块，导致输出结果与用户预期严重脱节。 1.7.2013 第二个病症是“答非所问”。大家看这个例子，用户让AI根据诗句画画，结果AI却返回了一大段文字解释。这说明AI有时候会误解我们的意图，给的答案和我们想要的完全不是一回事。 ‹#› 小练习：找出“答非所问” 用户提问：“请告诉我如何制作番茄炒蛋？” 以下三个回答中，哪一个属于典型的“答非所问”？ A)“制作番茄炒蛋需要西红柿、鸡蛋、盐、糖等食材。首先，将鸡蛋打散……”（详细的步骤说明） B)“番茄炒蛋是一道非常受欢迎的家常菜，它色泽鲜艳，营养丰富。”（对菜品的描述） C)“当然可以，这是一个番茄炒蛋的食谱链接。”（提供了获取方法） 答案：B | 解析：用户的核心诉求是询问“如何制作”，需要具体的步骤指导。选项B仅描述了菜品的特点和受欢迎程度，完全回避了“怎么做”的问题，属于典型的答非所问。 1.7.2013 我们再来看一个例子。如果问AI“如何制作番茄炒蛋”，哪个回答是答非所问呢？对，是B。它只是在夸这道菜好吃，并没有告诉我们具体的做法。 ‹#› 病症三：张冠李戴，无中生有 AI生成的一段文字：“苏东坡的诗篇中有两首古诗，描述了彩虹的美妙景象：《念奴娇·赤壁怀古》中写道：‘云想衣裳花想容，春风拂槛露华浓。’……《江城子·乙卯正月二十日夜记梦》中写道：‘绕子牵丹陌，双弦落素手。’……”这段生成内容看似流畅优美，实则暗藏多处与史实不符的错误。 张冠李戴：史实错位 “云想衣裳花想容”并非苏东坡所作，而是李白《清平调》中的经典诗句。AI将不同诗人的作品随意嫁接，造成了严重的史实混淆。 无中生有：虚假创作 “绕子牵丹陌，双弦落素手”这句诗在苏东坡的《江城子》中完全找不到出处，是AI基于训练数据拼凑、“创造”出来的虚假内容，极具误导性。 警示：AI生成内容可能隐含事实错误、虚假信息或逻辑谬误，我们必须保持批判性思维，对关键信息进行交叉验证，切勿盲目采信。 1.7.2013 第三个病症更严重，叫“张冠李戴，无中生有”。AI可能会把A的东西说成是B的，甚至会编造一些根本不存在的内容。比如这个例子，它把李白的诗安在了苏东坡身上，还自己写了一句诗。这提醒我们，对AI提供的知识，一定要多留个心眼。 ‹#› 小练习：火眼金睛找错误 AI生成内容：“唐代诗人杜甫写过一首著名的诗《静夜思》，‘床前明月光，疑是地上霜。’表达了他对家乡的思念之情。”这段文字中有一处明显的事实错误，你能快速找出来吗？ A)《静夜思》不是杜甫写的。 B)《静夜思》的内容不正确。 C)这首诗没有表达思乡之情。 正确答案：A 《静夜思》的作者是李白，并非杜甫。AI在这里犯了典型的“张冠李戴”错误，将作品归属到了错误的诗人名下。这提醒我们，即使面对耳熟能详的知识，也需对AI生成的内容保持审慎的辨别态度。 1.7.2013 下面这个练习，相信大家都能发现错误。AI说《静夜思》是杜甫写的，这显然不对，作者是李白。这个小练习告诉我们，即便是我们熟悉的知识，AI也可能出错，我们一定要仔细辨别。 ‹#› 病症四：计算错误，不够严谨 图示为AI生成的计算过程，从分步乘法到最终求和，每一步的数值推导均存在明显偏差，最终得出了错误的结果9324。 用户提问： “359乘以26，等于多少？请给出详细的竖式计算步骤。” 验算发现：步步皆错 手动验算可知，AI的分步乘法结果（359x6、359x20）及最终求和全错。正确答案应为 9334，而非AI给出的 9324。 核心警示：勿信AI计算 AI基于模式识别而非严格逻辑，对数学计算的严谨性不足。在处理数据和运算时，必须保持怀疑，亲自验算。 1.7.2013 第四个病症是“计算错误”。大家看这个例子，AI计算359乘以26，结果错得离谱。这说明AI并不擅长精确计算。所以，以后做数学题，可不能依赖AI，一定要自己算一遍！ ‹#› 小练习：数学小能手 AI 给出的计算结果：“128 除以 4 等于 31。” 思考一下：这个计算结果正确吗？如果不正确，正确答案应该是多少呢？ A) 正确 直接采信 AI 的计算结果，认为 128 ÷ 4 = 31 是对的。 B) 不正确，是 32 通过心算或笔算验证：4 × 32 = 128，因此正确结果是 32。 C) 不正确，是 30 计算错误，误将结果算成了 30，忽略了余数的正确处理方式。 正确答案：B。128 ÷ 4 = 32 这个小练习提醒我们，AI 的计算并非绝对可靠。在使用 AI 辅助工作和学习时，保持批判性思维，对关键结果进行亲自验证，才能避免被错误信息误导。 1.7.2013 最后一个小练习，AI说128除以4等于31。大家快速心算一下，对吗？当然不对，正确答案是32。所以，记住，AI的计算结果不可轻信，一定要自己验算。 ‹#› 生成式AI常见问题汇总 01 理解错误 对用户的意图理解出现偏差，往往只停留在表面文字，未能深入把握核心诉求。 关键词：望文生义、语义误解 02 答非所问 回答的内容与用户提出的问题关联性弱，甚至完全偏离主题，无法解决实际疑问。 关键词：文不对题、答非所问 03 事实错误 生成的内容与客观事实、真实数据或历史信息不相符，存在虚构或错误引用的情况。 关键词：张冠李戴、无中生有 04 逻辑错误 在进行复杂计算、因果推导或多步骤推理时，出现前后矛盾、推导中断或结论荒谬的问题。 关键词：计算错误、逻辑混乱 1.7.2013 好了，我们来总结一下AI的四大“病症”：理解错误、答非所问、事实错误和逻辑错误。了解了这些，我们就能更好地识别AI什么时候会犯错。 ‹#› 如何应对AI的“小毛病”？ 核心原则：不盲从、不轻信、多思考、勤验证！ 拒绝将生成式AI视为绝对真理，建立理性、审慎的使用心态，让技术服务于我们的思考，而非取代思考。 重新定位：从“权威”到“助手” 生成式AI是强大的生产力工具，但并非无所不知的专家。我们应把它看作提供灵感和参考的协作伙伴，而非标准答案的来源。 保持清醒：坚守独立思考能力 面对AI生成的内容，始终保持审慎的态度。不轻易被流畅的文本或看似专业的结论说服，用自己的逻辑框架去分析和判断。 养成习惯：坚持交叉辨别验证 建立“使用-质疑-验证”的闭环。对关键信息、数据来源和事实性描述，务必通过权威渠道进行交叉核对，确保信息的准确性。 1.7.2013 知道了AI会犯错，那我们该怎么办呢？核心原则就是这八个字：不盲从、不轻信、多思考、勤验证！我们要把AI当成一个提供想法的助手，而不是一个什么都对的老师。 ‹#› 应对AI错误的三大法宝 多问几次，对比结果 当对AI的回答不满意时，可以尝试用不同的方式提问，或者换个角度描述需求。有时换一种问法，AI会基于不同的语义理解给出更准确、更贴合预期的结果。 交叉验证，多方求证 对于涉及历史、科学、事实的关键信息，切勿轻信单一来源。一定要通过权威书籍、官方网站、学术论文等可靠渠道进行交叉验证，确保信息的真实性和准确性。 细心检查，亲自验算 在采纳AI生成内容前，务必仔细阅读和核对。对于包含数字、计算公式、逻辑推导的内容，必须亲自进行验算和逻辑梳理，避免因AI的“幻觉”或计算失误造成错误。 核心原则：将AI作为辅助工具，保持批判性思维，不盲从、不轻信，始终掌握信息判断的主动权。 1.7.2013 这里有三大法宝教大家如何应对。第一，多问几次，换个说法再问一遍，可能结果就不一样了。第二，交叉验证，重要的信息要去书本或官方网站上查一查。第三，细心检查，特别是数学题，一定要自己算一遍。 ‹#› 小组讨论：AI是朋友还是对手？ 辩证看待：取舍之间 生成式AI存在诸多缺点，我们是否还应该使用它？如果应该，理由是什么？我们又该如何理性评估其带来的价值与风险？ 趋利避害：善用其长 如何充分利用AI快速生成、激发创意的优点，同时有效规避错误信息、缺乏深度等缺点？在实际应用中该建立怎样的使用原则？ 展望未来：共生共长 你认为未来人工智能将如何发展？它会完全取代人类的工作吗？人类与AI之间理想的协作模式应该是怎样的？ 引导总结：AI本身并无好坏之分，关键在于使用者。我们应学会驾驭这一强大工具，让它成为学习和创造的得力助手，而非被其误导或让它取代我们独立的思考与判断。 1.7.2013 现在，我们来分组讨论一个问题：AI到底是我们的朋友还是对手？大家可以围绕这几个问题展开讨论。其实，AI本身是中性的，它是朋友还是对手，取决于我们如何使用它。我们要学会驾驭它，让它成为我们的好帮手。 ‹#› 国家在行动：为AI立规矩 《生成式人工智能服务管理暂行办法》法规文件，为AI技术的健康发展提供了坚实的法治保障。 《生成式人工智能服务管理暂行办法》正式施行 随着生成式AI技术的爆发式发展，其带来的安全风险引发关注。该办法自2023年8月15日起施行，是我国首部针对生成式人工智能服务的规范性文件。 核心原则 坚持发展和安全并重，促进创新和依法治理相结合。在鼓励技术突破的同时，筑牢安全防线，确保AI始终造福人类。 主要目的 鼓励AI创新发展，同时对AI服务全流程进行监管，规范服务行为，有效防范和制止滥用技术、危害社会的行为发生。 通过“立规矩”，让AI技术在法治轨道上运行，平衡创新活力与社会公共利益，推动行业可持续发展。 1.7.2013 面对AI带来的挑战，国家也在行动。我国已经出台了《生成式人工智能服务管理暂行办法》，给AI的发展立下了规矩。这个办法的目的是在鼓励创新的同时，保障大家的安全。 ‹#› 想一想：国家为什么要出台管理办法？ 01 保护国家安全 筑牢安全防线，防止AI技术被不法分子利用，生成危害国家主权、安全和发展利益的虚假信息与有害内容。 02 维护社会公共利益 净化网络生态，避免AI生成煽动仇恨、暴力、歧视等不良信息，维护社会和谐稳定与公序良俗。 03 保护个人权益 规范数据使用，防止AI非法收集、泄露个人隐私信息，同时保障知识产权，避免创作成果被恶意滥用。 04 促进健康发展 明确行业规则，为AI技术的研发与应用划定合规边界，营造良性竞争环境，推动AI产业长期可持续发展。 作为新时代的小公民，我们在使用AI时，也应遵守法律法规，不利用AI做违法违规的事情，主动抵制不良信息，做一个负责任的数字公民。 1.7.2013 大家想一想，国家为什么要出台这些规定呢？这是为了保护国家安全、社会公共利益和我们每个人的权益。我们作为小公民，在使用AI时，也要遵守规则，做一个负责任的数字公民。 ‹#› 课堂总结：智慧地与AI共舞 01 认识问题：看清AI的“小毛病” 生成式AI常出现理解偏差、答非所问、事实错误或计算失误。识别这些局限，是我们与AI协作的第一步。 02 学会应对：掌握协作“三大法宝” 面对AI的不确定性，我们要善用“多问几次”获取更多信息，通过“交叉验证”确保准确性，并始终“细心检查”最终结果。 03 保持思考：守住人类的核心优势 AI是强大的工具，但不能替代人的独立判断。我们要始终保持批判性思维，不盲目信任，让理性成为决策的最终依据。 04 承担责任：做负责任的数字公民 国家已出台法规规范AI应用，我们在享受便利的同时，也要遵守规则，审慎使用AI，承担起作为数字公民的社会责任。 核心思想：让AI成为我们的好帮手，而不是代替我们思考的“大脑”。 1.7.2013 好了，我们来总结一下今天的课程。我们认识了AI的四种错误，学会了应对的三大法宝，明白了要独立思考，也知道了要遵守规则。希望大家记住，要智慧地与AI共舞，让它成为我们的好帮手，而不是代替我们思考的“大脑”。 ‹#› 未来的挑战与我们的未来 信息科技的发展日新月异，挑战与机遇并存。希望同学们能保持好奇心和批判性思维，努力学习科学文化知识，未来成为能够驾驭和引领人工智能发展的创新人才，用智慧点亮属于你们的时代，让科技为人类创造更美好的生活！ 1.7.2013 人工智能的未来充满了无限可能，也伴随着新的挑战。希望今天这节课能激发大家的好奇心和思考能力。未来，就靠你们去驾驭和引领人工智能的发展了！今天的课就到这里，谢谢大家！ ‹#› $