内容正文:
新课导入
AI创意视频来了!大国重器“变身”神话人物有多酷?哪吒、敖丙、悟空、嫦娥……当神话照进现实,不只“亿”点酷。
思考:
你认为什么是AI?
AI可以做什么?
对于AI技术的使用我们应该注意什么?
人工智能(Artificial Intelligence),英文缩写为AI。随着科技的飞速发展,AI已经深入到我们生活的方方面面:
家庭自动化(智能家居设备、语音助手)
医疗保健(疾病诊断、药物研发)
交通运输(自动驾驶汽车、物流管理)
……
当前,随着“AI换脸”“AI变声”等人工智能深度合成技术的应用场景持续深入拓展,已在多领域被不法人员利用或滥用,如“换脸”“变声”成网络诈骗新手段、“面容”“声音”成侵权行为新对象等。
2025年春部编版道德与法治八年级下册第四课《公民义务》第二框
“AI换脸”的边界
目录
探·技术权利与义务共生
——权利义务相统一
01
行·法定义务守技术红线
——法定义务需履行
02
总议题:如何依法履行义务?
自主学习单
1
权利和义务的关系?(为什么)
2
如何坚持权利与义务相统一?(怎么做)
3
如何依法履行义务?(怎么做)
4
违反义务会承担什么责任?(是什么)
阅读课本,思考问题
第一部分
探·技术权利与义务共生
——权利义务相统一
探·技术权利与义务共生
随着AI技术的飞速发展,AI“换脸”技术在给人们带来新奇体验的同时,也被不法分子利用,成为诈骗的新手段。
在 AI“换脸”诈骗中,不法分子会利用公开的照片、视频等素材,通过AI技术合成受害者的面部图像,替换到一些虚假视频或音频中,以此来迷惑他人。面对如此隐蔽且极具迷惑性的诈骗手段,我们必须提高警惕、仔细甄别,守好自己“钱袋子”。
思考:
视频中诈骗者使用AI换脸侵犯了公民哪些权利?
探·技术权利与义务共生
以“AI技术使用”为主题,开展讨论活动。
权利:列举使用AI可以享有哪些权利?
义务:列举使用AI需要履行哪些义务?
合作讨论
探·技术权利与义务共生
使用AI可享受的权利
技术使用权
依法使用AI技术进行创作、学习和生产活动(如生成内容、优化流程)。
示例:利用AI工具生成文章、图像或视频,提升工作效率。
知识产权
对AI生成的内容(如文字、代码)在符合法定条件下享有著作权(需标注AI辅助生成)。
示例:AI绘画作品在注明工具来源后可申请版权保护
救济权
当AI技术侵害自身权益时,可依法要求赔偿或删除侵权内容(《民法典》第1195条)。
隐私权与知情权
用户有权知悉AI系统如何收集、处理个人数据,并要求保障隐私安全(《个人信息保护法》第17条)。
示例:拒绝AI平台过度采集人脸、指纹等敏感信息。
公平使用权
用户有权平等使用公共AI服务,不受算法歧视(《互联网信息服务算法推荐管理规定》第12条)。
示例:求职者因AI简历筛选系统性别偏见可申诉。
索赔权
示例:AI换脸视频侵犯肖像权可起诉平台下架并索赔。
探·技术权利与义务共生
禁止利用AI从事诈骗、传播虚假信息等违法行为(《生成式人工智能服务管理暂行办法》第4条)。
示例:不得用AI伪造他人声音进行电信诈骗。
合法合规义务
需确保数据采集合法,防止泄露用户隐私(《数据安全法》第27条)。
示例:企业使用AI处理用户数据前须获得明示同意。
数据安全与隐私保护义务
AI生成内容需明确标注“人工智能生成”(《暂行办法》第7条)。
示例:自媒体发布AI生成新闻时必须注明来源。
内容标识义务
避免开发/使用存在性别、种族歧视的算法,维护社会公序良俗。
示例:AI招聘系统需定期审核算法公平性。
伦理责任
企业和用户应配合监管部门的安全评估与整改要求(《暂行办法》第15条)。
示例:AI平台需留存生成内容日志备查。
配合监管义务
思考:通过以上探究,我们可以看出什么?
探·技术权利与义务共生
公民
义务
权利
享有
承担
促进
需要
权利义务相统一
知识梳理1.权利和义务的关系(为什么)
(1)公民的权利与义务相统一,它们相互依存、相互促进。权利的实现需要义务的履行,义务的履行促进权利的实现。
(2)公民既是合法权利的享有者,又是法定义务的承担者。
( 3)公民的某些权利同时也是义务。劳动和受教育。
探·技术权利与义务共生
今年两会期间,全国人大代表、小米集团创始人雷军提出了关于AI技术发展带来的问题,特别是AI换脸、AI拟声技术在网上滥用的问题,并呼吁尽快立法进行整治。
全国人大代表雷军的提议
01
全国政协委员、知名演员靳东也表达了相似的担忧,他提到喜欢自己影视剧的观众被AI换脸视频欺骗,强调了建立更好规则的必要性。
全国政协委员靳东的观点
02
思考:合法使用AI 功能对于我们有什么意义?
探·技术权利与义务共生
2.公民行使权利和履行义务有什么意义?P54
①行使权利:公民权利的充分实现,可以激发公民的主人翁意识,调动其履行义务的积极性和主动性,自觉承担对国家和社会的责任。
②履行义务:公民自觉履行义务,促进国家发展和社会进步,又为其权利的实现提供和创造更好的条件。
探·技术权利与义务共生
知识梳理3.如何坚持权利与义务相统一?(怎么做)
(1)坚持权利和义务相统一,任何公民不能归只享受权利而不承担义务,也不应只承担义务而不享受权利。
(2)我们不仅要增强权利意识,依法行使权利,还要增强义务观念,自觉履行法定的义务。
错误认识 指正
等同论:权利即义务,义务即权利 二者有严格界限,不能等同
割裂论:权利和义务是对立的,可以分离的 二者相对应而存在,相互依存、相互促进
先后论:先享受权利,后履行义务 实质是割裂了权利和义务的关系
侧重论:享有权利比履行义务更重要 权利和义务相互依存、相互促进,不能说哪个更重要
均等论:享有多少权利就履行多少义务 享有的权利和履行的义务不可能完全等量
探·技术权利与义务共生
第二部分
行·法定义务守技术红线
——法定义务需履行
什么是AI诈骗?
大家有没有玩过这样的游戏?
上传一张自己的照片
就可以换脸“扮演”喜欢的影视角色
一圆明星梦
但是你知道吗?
这很可能会被AI诈骗分子盯上!
合成声音
合成视频
合成图片
你有没有用AI恶搞身边人的视频、声音、图片?
行·法定义务守技术红线
被告人傅某从网上购买软件及相关教程,从客户提供或自己从网上购买的公民信息中,抠出头像制作 AI 换脸视频预存在手机相册中,再点击客户要求通过的相关平台的人脸验证链接,通过技术手段帮助客户通过平台的人脸验证,非法获利人民币27000元。
最终,根据被告人傅某的犯罪事实、性质、情节、认罪态度及对于社会的危害程度,鲤城法院依法判决被告人傅某犯非法控制计算机信息系统罪,判处有期徒刑三年并处罚金,没收违法所得。
思考:傅某为什么会被判刑?
行·法定义务守技术红线
故意伤害
非法拘禁
酒后驾驶
盗 窃
未成年禁止进入网吧
侵犯他人名誉权
法律禁止做的坚决不做。
行·法定义务守技术红线
遵守职业道德
保护野生动物
依法纳税
义务教育
法律要求做的必须去做。
遵守公共秩序
维护国家安全、荣誉、利益
行·法定义务守技术红线
知识梳理4.为什么必须履行法定义务?
①法定义务是由我国宪法和法律规定的,具有强制性。
②自觉履行法定义务,是公民不可推卸的责任。
知识梳理5.如何履行法定义务?(怎么做)
①法律要求做的必须去做。
②法律禁止做的坚决不做。
行·法定义务守技术红线
思考:AI换脸触碰法律的需要承担什么责任?
这对公民依法履行义务带来了什么启示?
违反义务须担责。公民实施了法律所禁止的行为,或者没有实施法律要求做的行为,都是违反法定义务的行为。违反法定义务,必须依法承担相应的法律责任。(民事责任、行政责任、刑事责任)
未实施法律要求的行为
实施了法律禁止的行为
违反法定义务
行·法定义务守技术红线
新东方公司未经运动员刘翔允许在公众号“新东方美国中学留学”发布的文章中使用其肖像,并附商业宣传信息。
七星关区青场镇海寨村村民邓某在自家位于青场镇海寨村上坡组的地里挖地除草,在其耕地内焚烧杂草引发山火。通过全镇职工、派出所工作人员和护林员十余小时的努力后,成功将火势控制并扑灭。目前,邓某已被公安机关依法行政拘留。
河北省邯郸市肥乡区3名初中生长期霸凌同班同学王某某,于3月10日下午5点左右将其杀害,并将尸体掩埋在北营村南侧的废弃蔬菜大棚内。3月11日,涉案犯罪嫌疑人被全部抓获,现已依法采取刑事强制措施。
属民事违法行为,
需承担民事责任
属行政违法行为,
需承担行政责任
刑事违法行为,应受到刑罚处罚
民事责任包括停止侵害,消除危险,返还财产,赔偿损失,支付违约金,消除影响、恢复名誉,赔礼道歉,等等。法律规定惩罚性赔偿的,依照其规定。
行政处分包括警告、记过、记大过、降级、撤职、开除等。行政处罚包括警告、罚款、没收违法所得、行政拘留等。
刑罚处罚:
①主刑:管制、拘役、有期徒刑、无期徒刑、死刑。
②附加刑:罚金、剥夺政治权利、没收财产、驱逐出境。
牛刀小试
综合应用
技术的运用是把双刃剑,用之为善可以造福社会,不当滥用则会造成社会风险和损害。随着AI技术的发展,在带来便利的同时,越来越多的人用AI技术换脸侵权、写论文学术造假、绘图抄袭等等,也埋下了许多隐患。
思考:运用权利与义务关系的知识,说说公民应如何成为AI技术的合格使用者。
①用AI技术换脸侵权、写论文学术造假、绘图抄袭的行为是违法行为,割裂了权利和义务的关系,没有做到正确行使权利,应受到法律制裁。(是什么)
②权利和义务相互依存、相互促进。我们既是合法权利的享有者,又是法定义务的承担者。作为公民,我们有使用AI技术的权利,也有合法使用AI技术的义务。(为什么)
③我们要坚持公民的权利和义务相统一。任何公民不能只享受权利而不承担义务。公民要增强权利意识,依法行使权利,而且要增强义务观念,自觉履行法定的义务。(怎么做)
课堂小结
权利义务
实现
履行
公民基本权利
公民基本义务
认识
认识
内容
内容
1.政治权利和自由
2.人身自由
3.社会经济与文化教育权利
4.其他基本权利
1.遵守宪法法律
2.维护国家利益
3.依法服兵役
4.依法纳税
5.其他基本义务
行动
行使
1.行使权利有界限;
2.维护权利守程序
行动
要求
1.法定义务须履行;
法律要求做的,我们必须去做
法律禁止做的坚决不做。
2.违反义务须担责
权利和义务相统一
1.相互依存,相互促进;
2.既是合法权利的享有者,又是法定义务的承担者;
3.某些权利同时也是义务。
行动
认识
1.增强权利意识,依法行使权利;
2.增强义务观念,自觉履行法定的义务。
坚持
单元小结
理解权利义务
公民
权利
公民基本权利的
内容及其价值
行使权利的界限、
方式及其程序
公民
义务
公民基本义务的
内容及其意义
履行义务的方式
违反义务的责任
养成增强
权利意识
养成增强
义务意识
增强公民意识
相统一
相结合
第二单元“理解权利义务”思维导图
第三课
第四课
是什么?为什么?
是什么?为什么?
怎么做?
怎么做?
课堂检测
1.“法律要求做的,我们必须去做”是依法履行公民义务的表现,符合此要求的是( )
①小琳业余时间积极参加保护生物多样性的公益活动
②小浩旅游时最喜欢处处留下“某某到此一游”的标记
③小俊入伍服兵役因受不了部队的纪律约束而被坚持退兵
④小明主动参加社区志愿者“宪法伴我行”法律宣传活动
A. ①② B. ①② C. ②③ D. ①④
D
课堂检测
2.“任性”是近几年火起来的一个网络用语,是“由着自己的性子来”的缩写。随着互联网的快速发展,我们的生活越来越离不开网络。但在微博、微信、QQ等公共空间决不可“任性”。是因为( )
①公民的权利和义务具有一致性
②公民要在道德允许和许可的范围内行使权利
③公民要履行维护国家利益的义务
④公民行使自己权利时不得损害他人的合法权益
A. ②③ B. ②④ C.①④ D.②④
C
课堂检测
3.观察漫画《堵》,运用法律知识回答:
从权利与义务关系的角度,评析漫画中的占道行为。(6分)(注:消防通道是消防人员实施营救和被困人员数疏散的通道。《中华人民共和国消防法》规定:任何单位、个人不得占用、堵塞、封闭疏散通道、安全出口、消防车通道)
漫画《堵》中占用消防通道停车的行为是错误的,是违法行为。《消防法》规定“个人不得占用、堵塞、封闭消防车通道”,乱停乱放是错误行使权利的行为,未履行法定义务。(2分 是什么)
由于:①权利与义务相互依存、相互促进,权利的实现,需要义务的履行,义务的履行促进权利的实现。②公民既是合法权利的享有者,又是法定义务的承担者。③坚持权利和义务相统一,任何公民不能只享受权利而不承担义务。漫画中占用消防通道停车,会妨碍消防人员救火,堵住救援的生命通道,给国家和人民的生命财产造成极大的损失。(3分 为什么)因此,我们不仅要增强权利意识,依法行使权利,而且要增强义务观念,自觉履行法定的义务。(1分 怎么做)
$$爸爸小宝。你在干啥?我在写作业。那你把手机给你妈妈,我有急事找她。好大的。妈妈。我妈妈爸爸有事找你啥事?这么着急。喂。老婆你去卧室里面说吧。行,发生什么事了?我刚才开车出事了。人没啥事儿。我撞到了人,现在在医院,啥人现在还在昏迷,我别。吓我。老公,你对面家属。已经过来了,现在说要让我们垫付3万块钱的医疗费。你等我一下,家里面还有一些现金,我马上拿到医院来。不用过来,我给你家属的银行卡号码直接转账就行。老公你还在吗?我在,你赶紧把钱转过来吧,家属情绪越来越激动了。等我一下,我马上到医院了,小宝不用过来。直接转账就行。节日快,你咋知道我在门口?老公你怎么在这儿画这个?老婆老婆这边家属情绪越来越激动了,你快打钱过来。喂喂。
客户只提供了一个身份证号,付某则从网上的某些非法平台购买相关公民个人信息,以制作换脸视频。2023年的一天,傅某在一个社交平台上得知,有人通过AI换脸技术,帮助别人通过相关平台的人脸验证登录他人账号,并以此挣钱。傅某顿时觉得自己找到一条致富路,于是便立即行动,从网上购买相关人像视频生成软件、文件管理器软件等,并下载了相关教程。在下了一番苦功之后,傅某还真学会了帮人通过人脸验证登录他人账号的技术。他使用相关软件,用客户提供的头像制作AI换脸视频,再点击客户要求通过的平台的人脸验证链接,采用软件控制相关平台的人脸识别系统,读取预先制作的视频,依次通过验证。甚至有的时候客户只提供一个身份证号,付某则从网上的某些非法平台购买相关公民个人信息,制作换脸视频。据了解父母主要通过在一些非法社交平台上发布所谓广告招揽生意,而他的主要客户要么是需要短时间登录大量账号的网络水军组织者,要么是意图以登录他人账号来规避封号等查处措施的网络主播。2023年8月,傅某被公安机关抓获,此后被检察机关以非法控制计算机信息系统罪提起公诉。法院认为,付某帮助所谓客户通过相关平台的验证时,改变手机系统原来调用自身摄像头的方式,并用虚拟摄像头助手程序读取指定的人脸视频。这种行为对相关平台的后台进行干扰,符合非法控制计算机信息系统罪的犯罪特征,故应认定非法控制计算机系统对。随着科技的发展,人们广泛利用新技术给自己创造便利,这本就是科学技术发展的目的。而同时,相关部门围绕新业态、新发展,在法律上厘清边界,做好监管,这也是题中应有之义。对于用户而言,要与时俱进,学习相关法律知识,知道哪些事能做,哪些事不能做。不能为了方便而想方设法规避监管,更不能像傅某一样利用AI技术从事违法犯罪活动。
null近期利用AI换脸技术进行视频合成,进而实施诈骗的新闻引起社会广泛关注。全国人大常委会法制工作委员会发言人臧铁伟在昨天的记者会上表示,利用AI换脸技术实施诈骗是一种新型的电信网络诈骗,需要广大群众提高识骗防骗意识,也需要有关部门依法加强治理和执法,追究相关人员法律责任。发言人臧铁伟表示,从法律方面看,反电信网络诈骗法、刑法等法律为打击治理各类电信网络诈骗活动提供了充分支撑。2022年9月2号审议通过的反电信网络诈骗法,对电信网络诈骗的定义手段、部门职责、企业责任和行业治理、新业务涉诈风险评估等做了规定。当前各方面应当全面贯彻落实反电信网络诈骗法,依法严厉惩治包括利用AI技术在内的各类电信网络诈骗活动。万变不离其宗,通过AI换脸进行诈骗的行为与传统的诈骗行为在本质上都是一样。它不同只是手段有所不同。对于构成诈骗罪,要依照我国刑法第266条的规定追究刑事责任。对于为利用AI换脸实施诈骗行为提供一些技术支持和帮助的对这类行为也要根据反电信网络诈骗法的规定进行行政处罚。构成犯罪的还要根据刑法第287条之二规定的帮助信息网络犯罪活动罪追究刑事责任。
最近近东雷军等不少代表委员就AI换脸拟声发声,听听大家怎么说。很多喜爱我的影视剧的一些观众,他因此被骗的很惨,这个性质很恶劣。希望能够建立一个好的一个规则。AI技术发展以后,AI换脸AI女生在网上已经成了重灾区,我本人也是主要的受害者,所以呼吁尽快立法和重点整治A. 一换脸女生被滥用。受害者绝不仅仅是靳东雷军这些名人,还有一些人身边的亲人和朋友有用AI换脸软件冒充名人骗老年人直播打赏。有人将他人照片合成淫秽影像用到色情行业。有人用AI制造假新闻进行传播。可以说,只要获取照片和声音等个人信息,就没有AI冒充不了的人。科技的进步本应更好地造福人类,而不是相反,绝不能任由AI换脸,想换谁就换谁。推进相关领域立法是一个方向,平台也应负起审查责任。