第30课 应对智能新挑战（教学课件） 信息科技人教版四年级下册（新教材）

第6章 人工智能耀未来 应对智能新挑战 第30节 人教版 学习目标 01 课堂导入 02 新知探究 03 知识总结 04 智慧挑战 05 兴趣园地 06 目录 CONTENTS 2 生成式人工智能存在的问题，了解应对措施 对生成式人工智能工具的生成结果具备辨识意识 学习目标 学会安全、合理地使用生成式人工智能工具 课堂导入 大家在上节课用 AI 创作时，有没有遇到一些问题？ 生成式人工智能快速发展，为数字时代带来新机遇的同时也带来了新的挑战 学习任务单 活动1 一、了解生成式人工智能存在的问题 问题1：望文生义、理解错误 由于生成式人工智能工具对数据的学习是一个持续的过程，当数据量不足时可能会对使用者所提需求内在语义的理解出现偏差，尤其是在对成语、诗词的理解上，从而出现望文生义、理解错误的情况。 新知探究 这点在生成式人工智能工具刚推出时比较明显。开发者认识到生成式人工智能工具容易出现此类错误，因此，参考了使用者的交互记录来优化算法，强化了其能基于数据不断学习的功能，让其不断迭代更新。 新知探究 “司马光砸光”图像1 “司马光砸光”图像2 问题2：答非所问 生成式人工智能工具会依据自身对大数据学习后的理解来判断使用者提出的问题，并给出推荐答案。当使用者提出的问题超出其理解范围时，给出的结果就可能出现答非所问的情况。 新知探究 阅读下图的回答，有哪些问题？ 新知探究 《念奴娇·赤壁怀古》是李白的作品。 《江城子》原文 学习任务单 活动2 问题3：张冠李戴、无中生有 例如，在生成的一段文字中，把李白的诗说成是苏轼的作品就属于张冠李戴，把不存在的诗说成是苏轼的作品就属于无中生有，等等。 新知探究 对于AI生成的内容，要小心查证、检查数据来源及可靠性，避免被人工智能生成的错误结果误导。 问题 4：计算错误 在数学计算方面，某些生成式人工智能工具不是依据数学规则进行计算的，因此极有可能得到错误结果。 新知探究 新知探究 AI幻觉 我们应该如何应对生成式人工智能可能出现的这些问题？ 二、应对措施 一般来说，望文生义、理解错误，以及答非所问的错误比较明显，用户基本无须系统学习就可以进行分析和讨论；但对于张冠李戴、无中生有，以及计算错误的情况，就需要我们具备一定专业知识的积累才可以看出问题。 因此，我们要意识到，生成式人工智能可能存在一定缺陷，在每次提问后，都要谨慎检查结果，辨识真假。 新知探究 三、生成式人工智能的其他问题 1.泄露个人隐私信息、破坏数据安全。 新知探究 2.侵犯知识产权。 新知探究 《太空歌剧院》获奖版权归谁？ 3.影响价值观。 使用生成式AI的过程，不能丧失独立思考的能力，需要对生成内容进行审核、重构。 新知探究 这些问题都要求我们在未来的学习中，要学会辩证地看问题，提高判断力，从而正确地与人工智能相处。 新知探究 1.仔细辨别检查生成内容，核对资料修正错误； 2.保护隐私，不泄露个人信息； 3.尊重原创，拒绝抄袭，AI 内容只能参考，不能直接当作业上交。 4.依法使用AI，不生成违规内容。 知识总结 应对智能新挑战 生成式人工智能会出现望文生义、答非所问、张冠李戴、无中生有、计算错误等问题 面对AI生成的内容要做好内容的检查、审核，保护隐私，尊重原创 理性、安全、合理使用生成式人工智能 2.使用生成式AI时，正确的做法是（） A.直接把AI生成的作文当作业上交 B.输入家庭住址等隐私信息 C.先检查内容，修正错误再使用 1.虽然，使用生成式人工智能工具能够提高工作和学习的效率，但还需要我们通过独立思考，对生成结果做出判断。 A.正确 B.错误 智慧挑战 智慧挑战 解析：生成的内容可能出现各种各样的问题，需要我们仔细辨别，避免被误导。 答案: A 解析：AI内容可能错误，必须检查修正；不能泄露隐私，不能直接抄袭。 答案：C 兴趣园地 生成式人工智能服务管理暂行办法 自2023年8月15日起，国家施行《生成式人工智能服务管理暂行办法》，提出坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能的创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。 请思考：为什么国家要出台相关文件？ 保护用户数据安全 保障AI学习准确性 鼓励AI更好发展 尊重原创与版权 谢谢 下节课见！ Thanks！ 人教版 Lavf59.27.100 Packed by Bilibili XCoder v2.0.2 $你被AI骗过吗？别怪AI了，AI狠起来连自己都骗。2022年11月，当人们还沉浸在ChatGPT带来的经验时，很快就有人觉得哪不太对它，解决了此前所有AI都有的问题，不像真的，但也带来了全新的问题，他说假话也像真的。现在我们知道了在人工智能领域有一个专门的术语来形容这种一本正经的编假话，它被称之为幻觉。AI一败涂地。早在1995年，计算机科学家steffen teller引入了幻觉的概念，这一概念最初被用于指代人工智能自发产生的新想法。所以最初的很长一段时间里，在AI领域，幻觉有一定的褒义色彩。有幻觉意味着你的AI具备一定的创造力。在2017年左右，这个术语发生了色彩上的变化，因为那时世界上已经存在一些可以稳定凭空生成图像或文字的AI了。幻觉不再代表有创造力，而是开始被研究人员用来描述那些在使用翻译模型时出现错误的现象。在2022年8月，也就是ChatGPT震惊世人的三个月前，facebook的母公司meta在他们的一篇论文中形容幻觉是自信的，说假话。这也就是如今最新版本的关于AI幻觉的定义。打个不恰当的比方，如果一个人从出生就被关在伸手不见五指的黑房子里，他对世界的一切了解都来自一个不断用语言描述世界的喇叭。那么当这个人理解云彩的时候，就不会按照现实世界的真实逻辑，而是会按照喇叭曾经讲过的内容。这个世界上怎么会没有绿色的云呢？大话西游里明明说了，会有一只猴子驾着七彩祥云飞来啊。大语言模型就是那个从小被关在黑屋子里，只接受了文字培训，并且只能用文字与我们沟通的人。而当这种只会纸上谈兵的人进入我们的工作和生活中时会引发什么问题？我们先从一个简单的例子说起。2024年2月，一名乘客起诉了加拿大航空，起因是该乘客需要乘坐飞机去参加祖母的葬礼，在购买机票之前咨询了加拿大航空的聊天机器人丧折扣的问题。机器人对失去至亲的事情表示惋惜，并慷慨承诺他可以凭借相关手续在90天内申请丧亲折扣退款。然而，嘉航根本没有这个折扣，这个折扣是机器人在训练过程中从别的航次那里学来的。果然，法官认为嘉航没有采取必要的措施保证机器人的准确性，就像是一家公司没给客服人员培训合格就让他们上岗一样。最终，佳航不仅兑现了幻觉中的承诺折扣，还给乘客付了一笔额外赔偿。幻觉能捅出的娄子已经不仅限于经济层面。2023年5月，美国一家律所代理了一起针对哥伦比亚航空的诉讼，原告是一名受到工伤的前各行员工，诉求是得到更合理的赔偿。为了更好地支持员工的诉求，原告代理律师搜集了多个同类型的案例作为案情摘要。这在美国的诉讼领域是非常常见的。唯一的问题是以往的案例搜集，律师们会依赖google，而这次的律师用了chat BT案情摘要里至少有六个案件是完全不存在的。因为恰巧就在这起诉讼之前，chat GT还无法联网搜，只能依赖训练时的数据库进行推理和生成。于是无从下手的GPT就编造了完整的相关案例。律师忏悔道，自己确实没有一一验证案件的真实性，其所在律所也因此被罚款了5000美元。不仅如此，暗角还可能直接威胁生命。2023年9月1日，英国卫报的一名记者发现，在亚马逊电子书的旅游类排行榜上，充斥着由AI制作的书籍，但这些书的作者从未到访过他们介绍的地方，只是简单的给AI下了几个提示词，AI便生成了完整的电子书。可怕的是其中部分书籍涉及到了旅行中的饮食，比如挖蘑菇，记者发现了至少四本完全由AI撰写的关于挖蘑菇的电子书。部分电子书建议使用味觉和嗅觉来识别蘑菇，但对于有剧毒的蘑菇来说，当你用力闻或者把它放在嘴里的时候，就离中毒不远了。导致幻觉的原因几乎可以追溯到模型诞生的每个环节，而数据则是幻觉的根源。低质量的数据可能会引入偏见或错误，不全面的数据也可能会导致AI的凭空捏造。即便数据全部正确，训练环节的缺陷也可能会导致AI运力不足。因架构缺陷，AI可能无法捕捉复杂的上下文关系，而训练策略可能导致AI不再参考标准答案，而是自行生成内容。在训练环节还可能出现AI为了迎合人类偏好而营造幻觉的情况。最后的推理环节，为了让AI输出的内容不要千篇一律，解码就要有随机性。因此AI会主动使用一些冷门甚至不准确的词汇，同时有些AI又会过度追求文本的流畅性，准确性就被忽略了。诸如此类的细节陷阱导致幻觉成了这一轮大语言模型的通病。目前对AI幻觉还没有根本上的解决方案，但大体上出现了两种缓解的办法，一种是优化训练数据，进一步调整训练方式，让幻觉出现的几率从源头上降低。另一种则是在大语言模型之外拦截错误。比如2023年2月google急于追赶chat BT而首次公开演示其模型发的AI时，这款产品就在许多问题上给出了错误的回答，一度导致google的股票大跌。为了解决这个问题，在google后续的jim I向用户发布时推出了核查回答功能。这个功能允许用户一键验证jm I给出的回答是否可靠。原理是在用户点击这个按钮之后，这面会通过刚刚回答中的每一个事实都进行一次不够搜索，然后通过对比来验证其回答是否有据可查。但无论哪种方法，短时间内都无法彻底解决幻觉问题。比起依赖AI我们更要依赖自己的学习和判断。