晃动的人体摄像机镜头上的音频异常清晰。当警察搜查一名之前在比萨店的客厅里开了一枪的已戴上手铐的男子时，警官问他为什么在那儿。该男子说要调查恋童癖的戒指。对于令人难以置信的回答，军官再次询问。另一名军官说到“Pizzagate。他在谈论Pizzagate。”

在2016年短暂而令人毛骨悚然的互动中，很明显，长期以来一直笼罩在社会边缘的阴谋理论以一种非常危险的方式进入了现实世界。

可能会造成重大伤害的阴谋论在社交媒体上极受欢迎。在社交媒体上，不受限制的论坛允许志趣相投的人进行交流。在这里，他们可以发展自己的理论并提出应对措施，以应对他们“发现”的威胁。

但是，如何判断社交媒体上新兴的叙述是否是毫无根据的阴谋论呢?事实证明，可以通过使用机器学习工具绘制叙事元素和联系来区分阴谋论和真实阴谋。这些工具可以构成预警系统的基础，来提醒相关部门注意对现实世界构成威胁的在线叙述。

由我和Vwani Roychowdhury带领的加利福尼亚大学文化分析小组开发出一种自动方法。它可以确定社交媒体上的对话何时反映出阴谋论的典型迹象。我们已成功地将这些方法应用于Pizzagate，COVID-19大流行和反抗疫苗接种运动的研究。

协作构建，快速形成

真正的阴谋论是刻意隐藏的，在现实生活中的人们为了自己的恶性目的而共同努力的行为。相反，阴谋理论是公开合作构建和发展成的。

阴谋论是刻意的复杂的，反映了无所不包的世界观。阴谋论不是试图解释一件事，而是试图解释一切， 发现人类交互作用域之间被隐藏的联系-主要是因为它们不存在。

人们天生就容易受到阴谋论的影响，不确定的时期和焦虑的加剧会增加这种易感性。

虽然阴谋理论家的流行形象是一头孤独的狼将照片和红色细绳之间令人费解的联系拼凑在一起，但这种形象在社交媒体时代已不再适用。阴谋论的理论已经发展到网上，它现在已成为集体叙事的最终产物。参与者确定叙述框架的参数：故事的人物，地点和事物及其关系。阴谋理论的在线性质为研究人员提供了一个机会，可以从这些理论的起源(从一系列经常相互分离的谣言和故事片段到综合叙述)中追溯这些理论的发展。在我们的工作中，Pizzagate是一个完美的主题。

Pizzagate于2016年10月下旬在总统大选前夕开始发展。在一个月内，它就完全形成了，并从一系列其他没有联系的领域中提取了完整的角色：民主政治，Podesta兄弟的私生活，休闲家庭用餐和撒旦的恋童癖交易。这些原本截然不同的领域之间的联系叙事线索是对WikiLeaks在2016年10月最后一周抛弃的民主党全国委员会泄漏的电子邮件的幻想性解释。

AI叙事分析

我们开发了一个模型- 一套机器学习工具。它可以根据人物，地点和事物及其关系识别叙事。机器学习算法处理了大量数据，来确定数据中事物的类别，然后确定特定事物属于哪些类别。 我们分析了2016年4月至2018年2月在Reddit和4chan论坛上讨论过Pizzagate的17498条帖子。该模型将每个帖子视为隐藏的故事的片段，并开始发现叙述。该软件可以识别帖子中的人物，地点和事物，并确定哪些是主要元素，哪些是次要元素以及它们是如何联系起来的。 该模型确定了叙事的主要层次(在Pizzagate的事例中，民主政治，波德斯塔兄弟，休闲餐饮，撒旦教义和WikiLeaks)，以及这些层次如何共同构成整个叙事。 为确保我们的方法产生准确的输出，我们将模型产生的叙述性框架图与《纽约时报》上发表的插图进行了比较。我们的图表与这些插图一致，并且还提供了有关人员，地点和事物及其关系的详细信息。

坚固的事实，虚构的小说

为了了解我们是否能够区分阴谋理论和实际阴谋，我们研究了Bridgegate， Chris Christie政府针对新泽西州的李堡市市长的工作人员发起的一项政治偿还行动。

当我们使用两个单独的集合比较我们的机器学习系统的结果时，阴谋论叙事框架的两个显着特征脱颖而出。

首先，虽然Bridgegate的叙述图从2013年到2020年得到发展，Pizzagate的图在一个月内就完全形成并稳定了。其次，Bridgegate的图表在删除元素后仍然存在，这意味着即使删除了丑闻中的关键人物和关系，新泽西州的政治也将继续作为一个单独的连接网络。

相反，Pizzagate图很容易分解成较小的子图。当我们删除直接来自WikiLeaks电子邮件解释的人员，地点，事物和关系时，该图就会分解为现实中政治，休闲餐饮，Podestas的私生活和奇异世界之间相互联系的领域撒旦主义。

在下图中，绿色平面是叙述的主要层，点是叙述的主要元素，蓝线是图层中元素之间的连接，红线是图层中元素之间的连接。紫色平面显示所有组合的图层，显示所有点如何连接。删除WikiLeaks平面会产生一个紫色平面，其点仅以小组形式连接。

Pizzagate阴谋论的各个层面相结合，形成了一个叙事的右上角。删除一层，WikiLeaks发布的对电子邮件的奇特解释，整个故事将散布在右下角。

预警系统?

我们的工作明显的挑战了道德准则。比如，我们的方法可为阴谋论的讨论生成更多帖子，这些帖子适用于讨论的叙述框架。同样，在给定任何领域的情况下，任何人都可以使用这个工具来提出新的阴谋论。

但是，正如我们对社交媒体论坛的研究所表明的，这种叙事武器化已经在没有自动方法的情况下发生了。研究界可以发挥作用，帮助其他人了解武器化是如何发生的，并为保护公共安全和民主机构的个人和组织开发工具。

开发一个追踪阴谋理论叙述的出现和调整的预警系统，可以使研究人员和当局对人们根据这些叙述采取的行动有所警惕。也许有了这样的系统，当问到为何枪手装备着AR-15步枪出现在比萨店时，Pizzagate案的逮捕官并不会为枪手的回应所困扰。

关键词： 阴谋论 AI