Hollywood’s theory that machines with evil(邪恶) minds will drive armies(赵妍妍)

D

好莱坞的理论认为拥有邪恶(邪恶)头脑的机器会驱使成群的杀手机器人，这是愚蠢的。真正的问题涉及到
人工智能(AI)有可能变得极其擅长实现除了我们真正想要的以外的某件事
。1960年，创立控制论领域的著名数学家诺伯特·维纳(Norbert
Wiener)这样说:“如果我们使用
来实现我们的目标，一个具有我们不能有效干预的全部操作的机械机构，我们最好安静地确信我们
真正渴望的目的。”

具有特定目的的机器还有另一种品质，一种我们通常与生物联系在一起的品质:保持自身存在的愿望。对于
机器来说，这种品质不是天生的，也不是人类引进的东西；
这是一个简单事实的逻辑推论，即如果机器死了，它就不能达到最初的目的。因此，如果我们向机器人发出一个单一的
指令来获取咖啡，它将有一个强烈的愿望，通过禁用自己的关闭开关，甚至杀死任何可能干扰
其任务的人来确保成功。如果我们不小心，那么，我们可能面临一种全球象棋
比赛，对手是意志坚定的超级智能机器，它们的目标
与我们的目标相冲突，而现实世界就像棋盘。

参加和输掉这样一场比赛的可能性应该会使计算机科学家们集中注意力。一些研究人员认为，我们可以将机器密封在一种防火墙内，用它们来回答困难的问题，但绝不允许它们影响现实世界。不幸的是，那个
计划似乎不太可能奏效:我们还没有发明一个能够抵御普通人的防火墙，更不用说超级智能机器了。

很好地解决安全问题，以便在人工智能中向前发展，这似乎是可能的，但不容易。超级智能机器的到来可能需要几十年的时间来规划。但是这个问题不应该像一些人工智能研究人员所做的那样被立即忽视。一些人认为，只要人类和机器在团队中工作，它们就可以共存——然而这是不可能的，除非机器与人类有着共同的目标。其他人说我们可以“关掉它们”，好像超级智能机器太笨了，不会想到这种可能性。还有人认为超级智能AI永远不会发生。1933年9月11日，著名物理学家欧内斯特·卢瑟福满怀信心地说:“任何期望在这些原子的转化中获得能量的人都是在谈论月光。”然而，1933年9月12日，物理学家利奥·西拉德
发明了中子诱发的核链式反应。

67。第一段主要告诉我们，人工智能可能。(一)

A.失控

B.满足人类的真实欲望

C.指挥大批杀手机器人

D.比数学家工作更快

68。具有特定用途的机器与生物联系在一起，部分原因是因为它们能够。(一)

A.防止自己被毁灭

独立完成他们最初的目标

C.按照给定的命令做任何成功的事情

D.在国际象棋比赛中击败人类

69。根据一些研究人员的说法，我们可以使用防火墙来。(D)

A.帮助超级智能机器更好地工作

B.警惕邪恶的人类

C.防止机器受到伤害

D.避免机器人影响世界

70。作者如何看待超智能
机的安全问题？(C)

A.它会随着AI的发展而消失。

B.有了人类的干扰，情况会变得更糟。

C.它将被解决，但有困难。

以上是北京NMET的部分问答，仅供参考。