您的位置:首页 >智能机器人 >

游戏大师谈AI “终结者”式未来绝非空想 你对未来AI有忧虑吗?

2020-03-25 10:14:21    来源:网易智能

法国Quantic Dream游戏工作室开发的人工智能(AI)题材互动电影游戏《底特律:成为人类》(Detroit: Become Human),讲述了一个虚构的未来故事。在这个世界上,无数栩栩如生的机器人为人类提供各类服务。它向我们展示了这样的未来:人类失业率居高不下,许多人为此对机器人产生了反感。有知觉的机器人开始反抗自己的仆役地位,它们为此发动了起义。

这听起来可能与《终结者》(The Terminator)的故事情节类似,但Quantic Dream的游戏总监大卫·凯奇(David Cage)对未来学家雷·库兹韦尔(Ray Kurzweil)的开创性著作《奇点临近》(The Singularity is Near)一书做了大量研究。他试图将自己的研究嵌入到游戏世界中,并使场景描述变得尽可能的可信。

凯奇从独特的视角来看待这个挑战,他提出了一个问题:如果人类是邪恶势力,而机器人却是正义一方,结果会怎样?在巴塞罗那举行的Gamelab大会上,凯奇接受采访时谈过这个问题,并阐述了他们在游戏中讲故事的方法。

以下为采访摘要:

问:我对AI很感兴趣,因此我想知道你们是如何认真研究《底特律:成为人类》的背景故事的。你对未来几十年AI的发展心存忧虑吗?

凯奇:我对这个话题做了很多研究,因为我个人很感兴趣。它始于雷·库兹韦尔的《奇点临近》这本书。这对我很重要,因为它让我意识到,在未来的某个时刻,会有比我们更聪明的机器出现。很难说这一切何时会到来,但它最终会发生却是毫无疑问的。对我来说,那就是《底特律:成为人类》这款游戏的起点。

到那时会发生什么?有两种理论:首先,它们只是机器。仅仅因为它们有更多的能力,但这并不意味着它们会发展出意识,因为意识不是智力的一部分。第二种理论认为,我们人类只是生物机器,意识来自我们大脑的力量。如果这是真的,那就意味着机器也会有意识。当另一个物种有智慧、意识和情感时,人类会有什么反应?如果将来发生这种情况,我们需要采取何种立场?这是我研究的出发点。

但除此之外,我做了很多关于AI的研究,以确切地了解它是如何工作的。我参观了许多利用AI进行音乐创作的科学实验室,我看到的一个演示给我留下了深刻的印象。他们把爵士钢琴家演奏的、长达数小时的音乐放入算法中。算法分析了音乐的风格,然后他们得到了这首以真人钢琴家开始的配乐,但在曲目的某一时刻,它转向了算法创作的音乐。这太可怕了,因为你看不出其中的区别。算法准确地分析了人类的演奏风格,并能以同样的方式进行演奏。

我们花了很多时间探索,将来AI会写书吗?它们会讲故事吗?它们会创作音乐以及绘画吗?我们在游戏中加入了许多这样的想法。

问:我总是对AI研究人员的说法很感兴趣,他们正在做些有趣的事情,比如为AI构建伦理小组。他们不是以那种方式开始的。微软取消了著名的AI项目,因为他们已经知道,他们需要以某种方式管理或控制AI。但他们似乎确实在取笑有关AI的小说,比如《终结者》。每个人都说我们在建造“天网”,但这与现实相去甚远。我不知道他们是否认为AI真的存在威胁,需要认真对待,亦或只是想以科学的名义追求它。

凯奇:有个关于AI的故事我非常喜欢。它基于真实的事实,但有少许改变。两个AI创造了它们自己的语言,并开始用一种人类无法理解的方式交谈,因为这是它们自己创造的。与真实情况相比,这个故事有些添油加醋,但我觉得有趣的是,我们可以创造些东西,这些东西会自己学习,甚至学习我们无法理解的东西。当你拥有能够自主学习和发展技能的机器时,你就会开始失去控制。

那么,总体上说,我是否担心这种技术?是的。不过,比起机器,我更担心人类。在《底特律:成为人类》中,我们选择好人是机器人,坏人是人类,这并非巧合。

问:人类总是试图超越彼此,他们会进行竞争,直到超越自己应该做某些事情的程度。

凯奇:关于AI的好消息是,它通常以理性的方式行事,而人类却不是这样。我更关心我们与技术的关系,这也是我们在《底特律:成为人类》中发展的主题之一。我们对科技到底有多依赖?我们对手机有多么上瘾?你有时可以在像餐馆这样的地方看到,几乎每个家人都在查看他们的电子邮件和信息。他们在和不在场的人交谈,而不是和坐在桌旁的人对话。这正是我所担心的事。

我还认为,科技正在改变我们大脑的工作方式。我们需要越来越多的刺激。我们需要更多信息,并总是期待着手机上的回应:“哦,有个信息我需要查看,请稍等。”我们完全依赖技术。我们开始为技术服务,而不是技术为我们服务。

问:我也读过丹·布朗(Dan Brown)的小说《起源》(Origin)。这本书很有趣,因为故事也发生在巴塞罗那。但我认为他有一个有趣的理论,那就是人类正在导致气候变化,并促使地球走向毁灭,如果AI能够接管并限制人类的发展,这实际上可能有助于拯救地球。他预测AI将成长为占主导地位的物种。这可能是未来主义的想法,但在某些方面似乎是合理的。

凯奇:这绝对是有道理的。《底特律:成为人类》中有个角色曾说过:“机器人也是人类,但很完美。”我不知道是否真能这么说,毕竟它只是科幻小说。但与此同时,你会明白机器实际上变得非常实用,非常了解需要做什么,懂得做出妥协,变得理性,而人类则是由激情和情感驱动的。这就是我们管理这个星球的原因,但与此同时,这也是我们可能会导致其毁灭的原因,因为我们无法对某些事情保持理性和务实。

也许一个国家最完美的总统应该是个机器人,因为它们不容易腐败。它们会努力工作,会为大多数人做出最好的决定。它他们不会只是想着再次当选,不会为了得到那份工作而说谎。仔细想想,它们可能是最称职的总统。

问:你认为AI的出现会导致30%到40%的人失业这种说法合理吗?

凯奇:这也是我在开发《底特律:成为人类》时研究的问题,即科技对社会的影响。在我的研究中,我发现当第一台蒸汽机出现时,同样的讨论也发生过。每个人都说:“很快,工人们就会失业,这将是一场灾难。”但我们现在知道,事实并非如此,因为我们需要更多的人来设计机器、维护机器和制造其他机器。那些以前做低薪工作的人换了别的工作,但是没有大规模的失业现象出现。

我倾向于认为,这种情况也不会发生在AI崛起上。我们将看到更多新的工作领域。它们会有所不同,但机器将取代我们从事最普通的工作,而人类我们再也不需要做这些工作了。

问:在这种情况下,你所相信的可能与游戏中所发生的有所不同。

凯奇:在游戏中,我很有兴趣提出这一点。我想:“我们来试试这个想法。”老实说,这也是一个合理的设想。没人能肯定。但我想象了相反的情况,即会有人失业,我感兴趣的是其带来的社会影响,富人会有工作,但也有机器人为他们服务,而穷人会失去工作,买不起机器人。技术将创造两类人——受益于技术的人和因技术而受苦的人。这是另一个场景。

问:我认为整个游戏最终都很好地表达了人们应该思考的AI问题。

凯奇:希望如此。我想让游戏成为我思考的素材,我对这些问题也没有任何答案。它们非常复杂,人们正花费一生的时间来研究和预测将要发生的事情。我不会假装能给出答案,但我带了几个问题。这很有趣。有些人看到了,但大多数人没有。大多数人只是看了一个关于机器人的故事,但是有些人在游戏中看到了有趣的问题。

问:我很感兴趣的是,有人可以创造一个不仅仅是终结者的AI故事,对吧?真正的科学家和研究人员更有可能对此不屑一顾,认为这是不可信的。像这样的事情,你必须考虑其隐含意义。

凯奇:说实话,对我来说,《底特律:成为人类》更多的是一个关于我们自己的故事,关于人类的故事,而不是关于机器的故事。它提出了许多问题,关于我们对技术的依赖,以及我们如何看待我们的未来,我们想和这个社会一起走向何方。不仅仅是AI的未来。但这很有趣,因为AI激发了关于我们自己的问题。

我们讨论的意识问题非常重要。机器会告诉我们自己到底是谁。如果它们发展出某种形式的意识,那就意味着我们人类可能也是机器,只是进化到拥有足够强大意识的程度。但如果机器永远不能发展出意识,也许这就意味着我们不仅仅是机器。然后我们需要问自己:“然后呢?”我们到底是什么?“当你思考这个问题时,你会发现它非常有趣。

问:你认为你已经完成了这个主题,还是想围绕这个主题做更多?

凯奇:谁知道呢?不过可以肯定的是,这是个很大的问题。

相关阅读