第15课 人工智能安全与伦理（课件）- 六年级上册信息技术 浙江摄影版

《终结者》 1 《生化危机》 2 人工智能安全与伦理 3 Question 人工智能存在什么安全问题？ 4 Answer 自动驾驶 5 Answer 漏洞和黑客 6 Answer 用户画像 AI换脸 …… 7 Question 人工智能存在什么伦理问题？ 人与人的关系和处理这些关系的规则 8 Answer 女友机器人 9 Question 机器人可以伤害人吗？ 10 Question 机器人在人的指令下可以伤害人吗？ 11 Question 机器人在人的指令下可以伤害自己吗？ 12 Question 机器人在人的指令下可以伤害自己吗？ 13 Question 同学们可以想出解决的对策吗？ 人与人的关系和处理这些关系的规则 14 Answer 机器人三定律： 第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管 第二定律：机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外 第三定律：机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存 15 Answer 李宏彦AI伦理： 第一，AI 的最高原则是安全可控；其次，AI 的创新愿景是促进人类更加平等地获得技术能力；第三，AI 存在的价值是教人学习，让人成长，而不是取代人、超越人； 最后，AI的终极理想是为人类带来更多的自由和可能 16 Answer 李宏彦AI伦理： 第一，AI 的最高原则是安全可控；其次，AI 的创新愿景是促进人类更加平等地获得技术能力；第三，AI 存在的价值是教人学习，让人成长，而不是取代人、超越人； 最后，AI的终极理想是为人类带来更多的自由和可能 17 Answer 霍金： 我不认为人工智能的进化必然是良性的......我们需要确保人工智能的设计符合道德伦理规范，保障措施到位。 18 Answer 埃隆马斯克： 担心人格化的人工智能会毁灭人类，特斯拉创始人传奇企业家埃隆马斯克不断对人工智能发出警告，认为这是一场灾难。 19 $