内容正文:
“信息性阅读”专题验收评价(三)学术论文
一、阅读下面的文字,完成1~5题。
正如我们都知道的,人类的事情实际上并不像
材料一:
人工智能这么简单:我们有时似乎特地去招慈璃苦,
人工智能是近年来引起人们很大兴趣的一个领:或者故意回避某种快乐一很清楚的一点是,人类
战,经常被简写成“AI”。AI的目标是用机器尽可能的实际行为实在是由比这些复杂得多的判断依据所
地模仿人的精神活动,或许还能在这些方面最终改:
导引的。这可由一个人触摸热火炉的经验得到旁
善并超出人的能力。追今为止,A已经进展到何种证:一个人在甚至还未感到编楚之时就采取了抽手
程度呢?可以公正地说,A1的确微了许多聪明的:回来的动作,这种不情愿的动作比痛苦或快乐的实
事,但其对人类智慧的任何模拟都还远未成为事实。
际效应更接近于仪器设各对自己苦乐度的反应。尽
柯尔贝在20世纪60年代中期发展的电脑程序:
管如此,我仍然相信AI实现了一种值得尊敬的
与图灵测试相连贯,它成功地模拟出一位精神疗法
创造。
专家,以至于某些病人发现自己对电脑比对人类更
(摘编自罗杰·彭罗斯的《皇帝新脑》)
露意想露自己的内。虽然这会给人一种电脑具有
材料二:
某种理解力的可怕印象,然而在事实上它一点儿也
和人类智能相近的AI系统会给社会和人类带
没有,它只不过是遵循着某种相当简单的既定规则
来极大风险,广泛的研究已经证明了这一,点,顶尖的
或算法而已
AI实验室也已经承认。正如阿西洛马人工智能原
计算机下棋也许是机器被认为能够“智慧作为”
则所指出的那样,“高级AI可能意味着地球生命史
的最好例子,因为一些机器在与人对弃时实际已达
上的深刻变革,我们应当关注,并对资源进行规划和
到极受尊敬的“国际大师”的水准。其实,下棋机除
管理”。不幸的是,这种规刻和管理没人去做。而当
了精确的计算能力外,还大大地依精于博学多闻。
前,AI实脸室正在开发越来越强大的数字思雏,竟
如果落子动作要求非常快,下棋机总的来说比相当
、
争逐渐失控,包括它们的创造者在内,没有人能理
多的弈手都要高明一些;如果每一着允许的时间更
解、预测或可靠地控制它们。
长,则弈手的表现相对要比机器好。人们可以依照
如今,AL系统在一般任务上已经具备了与人类
如下事实来理解这一切:电脑是基于准确和快速的!
广义的计算来决策,而弈手则依赖于利用相对缓慢:
竞争的能力,我们必须自问:是否该让信息渠道充斥
的意识作出“判断”;当有时间时,弈手可以得到比不
着机器写就的宣传和谎言?是否应该把所有工作都
用这类刺断而只用简单计算和直接排除可能性的机
自动化,包括那些有成就总的工作?是否该开发机
器大脑,让它们在数量上发展得比人脑还多,在思维
器更深刻的分析。
一些人宣称人工智能已经为理解精神品质
上表现得比人脑还聪明,最终淘汰我们、取代我们?
警如快乐、痛苦、饥渴等提供了途径,他们以格雷·
·是否应该冒着文明失控的风险?这样的决定绝不能
瓦尔特的“乌龟”机器人为例。“乌龟”的行为模式在委托给未经选举的技术领袖来做。只有当我们确信
电池快用完时就要改变,然后它以被设计好的行为
强大的AI系统是积极的,风险是可控的时候,才应
方式补充自己的能量存储,这和人类或任何动物感:
该继续这种开发。而且A1的潜在影响越大,我们就
到饥渴时的行为非常相似。当“瓦尔特乌龟”以这种:
越需要充分的理由来证明其可靠性。()penAI最近
方式行动时,我们说它饥饿了,并非错误的语言表:关于人工通用智能的声明指出,“到了某个时间节
达。“瓦尔特乌龟”设计中的某些机制对其电池的状:点,在开始训练新系统之前可能需要进行独立审查,
态很敏感,低到一定点时就会让“乌龟”转换到不同:而用于新模型的计算的增长速度也应加以限制”。
的行为模式。但是人类的行为模式的改变会更加复:
我们深深认同这份声明,而那个时间,点就是现在。
杂,更加微妙。人类不是简单地从一种行为模式改
因此,我们呼吁所有正在词练比GPT-4(聊天机
变到另一种行为模式,而是存在一种以确定方式行!器人的语言模型)更强大的A】系统的实验室立即暂
动之下的领向性变化,当补充能量供应的需求增加:停训练,至少暂停6个月。实验暂停应该对外公开:
时,这些变化就会变得更加强烈。
!如采不能迅速实施,政府应该介入并发布禁止令。
236
在暂停期间,A1实验室和独立学者应针对高级A】:3.根据材料内容,下列说法不正确的一项是()
的设计和开发共同制定和实施一套共享安全协议。
A.人和人工智能的一个重要区别是人的行为往往
这份协议的审计和监督应由独立的外部专家严格执
是复杂的,而人工智能往往相对简单
行,确保A的安全性不超过合理的怀疑范国。这并
B.生命未来研究所率先证明和人类智能相近的
不意味着我们要暂停人工智能的总体发展,而