法国Quantic Dream游戏工作室开发的人工智能(AI)题材互动电影游戏《底特律：成为人类》(Detroit: Become Human)，讲述了一个虚构的未来故事。在这个世界上，无数栩栩如生的机器人为人类提供各类服务。它向我们展示了这样的未来：人类失业率居高不下，许多人为此对机器人产生了反感。有知觉的机器人开始反抗自己的仆役地位，它们为此发动了起义。

这听起来可能与《终结者》(The Terminator)的故事情节类似，但Quantic Dream的游戏总监大卫·凯奇(David Cage)对未来学家雷·库兹韦尔(Ray Kurzweil)的开创性著作《奇点临近》(The Singularity is Near)一书做了大量研究。他试图将自己的研究嵌入到游戏世界中，并使场景描述变得尽可能的可信。

凯奇从独特的视角来看待这个挑战，他提出了一个问题：如果人类是邪恶势力，而机器人却是正义一方，结果会怎样?在巴塞罗那举行的Gamelab大会上，凯奇接受采访时谈过这个问题，并阐述了他们在游戏中讲故事的方法。

以下为采访摘要：

问：我对AI很感兴趣，因此我想知道你们是如何认真研究《底特律：成为人类》的背景故事的。你对未来几十年AI的发展心存忧虑吗?

凯奇：我对这个话题做了很多研究，因为我个人很感兴趣。它始于雷·库兹韦尔的《奇点临近》这本书。这对我很重要，因为它让我意识到，在未来的某个时刻，会有比我们更聪明的机器出现。很难说这一切何时会到来，但它最终会发生却是毫无疑问的。对我来说，那就是《底特律：成为人类》这款游戏的起点。

到那时会发生什么?有两种理论：首先，它们只是机器。仅仅因为它们有更多的能力，但这并不意味着它们会发展出意识，因为意识不是智力的一部分。第二种理论认为，我们人类只是生物机器，意识来自我们大脑的力量。如果这是真的，那就意味着机器也会有意识。当另一个物种有智慧、意识和情感时，人类会有什么反应?如果将来发生这种情况，我们需要采取何种立场?这是我研究的出发点。

但除此之外，我做了很多关于AI的研究，以确切地了解它是如何工作的。我参观了许多利用AI进行音乐创作的科学实验室，我看到的一个演示给我留下了深刻的印象。他们把爵士钢琴家演奏的、长达数小时的音乐放入算法中。算法分析了音乐的风格，然后他们得到了这首以真人钢琴家开始的配乐，但在曲目的某一时刻，它转向了算法创作的音乐。这太可怕了，因为你看不出其中的区别。算法准确地分析了人类的演奏风格，并能以同样的方式进行演奏。

我们花了很多时间探索，将来AI会写书吗?它们会讲故事吗?它们会创作音乐以及绘画吗?我们在游戏中加入了许多这样的想法。

问：我总是对AI研究人员的说法很感兴趣，他们正在做些有趣的事情，比如为AI构建伦理小组。他们不是以那种方式开始的。微软取消了著名的AI项目，因为他们已经知道，他们需要以某种方式管理或控制AI。但他们似乎确实在取笑有关AI的小说，比如《终结者》。每个人都说我们在建造“天网”，但这与现实相去甚远。我不知道他们是否认为AI真的存在威胁，需要认真对待，亦或只是想以科学的名义追求它。

凯奇：有个关于AI的故事我非常喜欢。它基于真实的事实，但有少许改变。两个AI创造了它们自己的语言，并开始用一种人类无法理解的方式交谈，因为这是它们自己创造的。与真实情况相比，这个故事有些添油加醋，但我觉得有趣的是，我们可以创造些东西，这些东西会自己学习，甚至学习我们无法理解的东西。当你拥有能够自主学习和发展技能的机器时，你就会开始失去控制。

那么，总体上说，我是否担心这种技术?是的。不过，比起机器，我更担心人类。在《底特律：成为人类》中，我们选择好人是机器人，坏人是人类，这并非巧合。

问：人类总是试图超越彼此，他们会进行竞争，直到超越自己应该做某些事情的程度。

凯奇：关于AI的好消息是，它通常以理性的方式行事，而人类却不是这样。我更关心我们与技术的关系，这也是我们在《底特律：成为人类》中发展的主题之一。我们对科技到底有多依赖?我们对手机有多么上瘾?你有时可以在像餐馆这样的地方看到，几乎每个家人都在查看他们的电子邮件和信息。他们在和不在场的人交谈，而不是和坐在桌旁的人对话。这正是我所担心的事。

我还认为，科技正在改变我们大脑的工作方式。我们需要越来越多的刺激。我们需要更多信息，并总是期待着手机上的回应：“哦，有个信息我需要查看，请稍等。”我们完全依赖技术。我们开始为技术服务，而不是技术为我们服务。

问：我也读过丹·布朗(Dan Brown)的小说《起源》(Origin)。这本书很有趣，因为故事也发生在巴塞罗那。但我认为他有一个有趣的理论，那就是人类正在导致气候变化，并促使地球走向毁灭，如果AI能够接管并限制人类的发展，这实际上可能有助于拯救地球。他预测AI将成长为占主导地位的物种。这可能是未来主义的想法，但在某些方面似乎是合理的。

凯奇：这绝对是有道理的。《底特律：成为人类》中有个角色曾说过：“机器人也是人类，但很完美。”我不知道是否真能这么说，毕竟它只是科幻小说。但与此同时，你会明白机器实际上变得非常实用，非常了解需要做什么，懂得做出妥协，变得理性，而人类则是由激情和情感驱动的。这就是我们管理这个星球的原因，但与此同时，这也是我们可能会导致其毁灭的原因，因为我们无法对某些事情保持理性和务实。

也许一个国家最完美的总统应该是个机器人，因为它们不容易腐败。它们会努力工作，会为大多数人做出最好的决定。它他们不会只是想着再次当选，不会为了得到那份工作而说谎。仔细想想，它们可能是最称职的总统。

问：你认为AI的出现会导致30%到40%的人失业这种说法合理吗?

凯奇：这也是我在开发《底特律：成为人类》时研究的问题，即科技对社会的影响。在我的研究中，我发现当第一台蒸汽机出现时，同样的讨论也发生过。每个人都说：“很快，工人们就会失业，这将是一场灾难。”但我们现在知道，事实并非如此，因为我们需要更多的人来设计机器、维护机器和制造其他机器。那些以前做低薪工作的人换了别的工作，但是没有大规模的失业现象出现。

我倾向于认为，这种情况也不会发生在AI崛起上。我们将看到更多新的工作领域。它们会有所不同，但机器将取代我们从事最普通的工作，而人类我们再也不需要做这些工作了。

问：在这种情况下，你所相信的可能与游戏中所发生的有所不同。

凯奇：在游戏中，我很有兴趣提出这一点。我想：“我们来试试这个想法。”老实说，这也是一个合理的设想。没人能肯定。但我想象了相反的情况，即会有人失业，我感兴趣的是其带来的社会影响，富人会有工作，但也有机器人为他们服务，而穷人会失去工作，买不起机器人。技术将创造两类人——受益于技术的人和因技术而受苦的人。这是另一个场景。

问：我认为整个游戏最终都很好地表达了人们应该思考的AI问题。

凯奇：希望如此。我想让游戏成为我思考的素材，我对这些问题也没有任何答案。它们非常复杂，人们正花费一生的时间来研究和预测将要发生的事情。我不会假装能给出答案，但我带了几个问题。这很有趣。有些人看到了，但大多数人没有。大多数人只是看了一个关于机器人的故事，但是有些人在游戏中看到了有趣的问题。

问：我很感兴趣的是，有人可以创造一个不仅仅是终结者的AI故事，对吧?真正的科学家和研究人员更有可能对此不屑一顾，认为这是不可信的。像这样的事情，你必须考虑其隐含意义。

凯奇：说实话，对我来说，《底特律：成为人类》更多的是一个关于我们自己的故事，关于人类的故事，而不是关于机器的故事。它提出了许多问题，关于我们对技术的依赖，以及我们如何看待我们的未来，我们想和这个社会一起走向何方。不仅仅是AI的未来。但这很有趣，因为AI激发了关于我们自己的问题。

我们讨论的意识问题非常重要。机器会告诉我们自己到底是谁。如果它们发展出某种形式的意识，那就意味着我们人类可能也是机器，只是进化到拥有足够强大意识的程度。但如果机器永远不能发展出意识，也许这就意味着我们不仅仅是机器。然后我们需要问自己：“然后呢?”我们到底是什么?“当你思考这个问题时，你会发现它非常有趣。

问：你认为你已经完成了这个主题，还是想围绕这个主题做更多?

凯奇：谁知道呢?不过可以肯定的是，这是个很大的问题。

关键词： AI