19 对人类生存的威胁
但是，我们这是在跟灾难调情吗？悲观主义者在被迫承认越来越多人的生活正变得越来越好的时候，他们已经准备好了进行反驳。他们说，我们兴高采烈地奔向灾难，就像有人从楼顶掉落，还要在经过每层楼的时候说“到目前为止感觉良好”。或者说我们正在玩俄罗斯轮盘赌(57)，致命的结局一定会找上门来。又或者说，我们将会遭遇黑天鹅事件(58)，虽然距离事故统计分布的尾端有4西格玛的距离，事件发生的概率极低，但伤害却是灾难性的。
半个世纪以来，现代灾难的四骑士已经变成人口过剩、资源短缺、污染与核战争。最近，又有一队更陌生的骑士加入了他们：将会吞噬我们的纳米机器人、将会奴役我们的机器人、将会把我们变为原材料的人工智能以及培育种族屠杀病毒或在卧室里攻陷互联网的保加利亚年轻人。
现代灾难四骑士的哨兵是浪漫主义者和卢德分子。但是向我们警示更高科技危险性的通常是科学家和技术专家，他们已经利用自己的聪明才智来确认世界不久将要灭亡的方式，其数量之高前所未有。2003年，著名的天体物理学家马丁·里斯（Martin Rees）出版了一本名为《我们的末日》（Our Final Hour）的作品，他在书中警告道，“人类有可能是自身毁灭的罪魁祸首”，他还列举了数十种我们已经“让全世界的未来陷入危险”的方式。比方说，粒子对撞机的实验有可能会创造出一个湮灭地球的黑洞，或者由压缩夸克组成的“奇异夸克团”有可能会使宇宙中所有的物质都被它吸附而消失。里斯提出了大量劫数难逃的理论。该书的亚马逊页面这样写道：“读这本书就相当于读《全球灾难风险》（Global Catastrophic Risks）、《我们最终的发明：人工智能以及人类时代的终结》（Our Final Invention: Artificial Intelligence and the End of the Human Era）、《结局：科学与宗教对我们的启示》（The End: What Science and Religion Tell Us About the Apocalypse），以及《世界末日战：僵尸大战的口述史》（World War Z: An Oral History of the Zombie War）。”技术慈善家已经开始资助致力于发现新的生存威胁并找到解决办法的研究机构，其中包括人类未来研究所、生命未来研究所、生存风险研究中心以及全球灾难风险研究所。
应该如何看待潜伏在我们进步背后的生存威胁？没有人敢预言灾难永远不会发生，本章也不包含任何类似的保证。但是，我将指出思考灾难的方法并且检视主要的威胁。在第10章，已经讨论过三种威胁，人口过剩、资源不足以及污染（包括温室气体），在此我们将采用同样的方式。有一些威胁是文化和历史悲观主义虚构出来的，另外一些则是真的，但我们不把这些真正的威胁看作是等待着我们的天启，而是需要解决的问题。
高估灾难本身就是一场灾难
乍一看来，有人或许会认为我们为生存威胁考虑得越多越好。这些风险，毫不夸张地说，有可能会越来越高。那么，人们思考这些可怕的风险又有何害处呢？最糟糕的结果也不过是采取了一些预防措施，事后却发现没有必要而已。
然而，关于天启的考虑会产生严重的弊端。其中一个弊端就是，对于灾难风险的错误警报本身就是一种灾难。例如，20世纪60年代的核武器竞赛就是由对于苏联神秘的“导弹差距”的恐惧而引发的。[1] 2003年入侵伊拉克的理由是，萨达姆·侯赛因有可能正在开发核武器并计划用于对抗美国，这种可能性虽然不确定，但是确实是灾难性的。用乔治·W.布什的话来说，“我们不能等待最终的证据、确凿的证据，因为最终的证据有可能就是一朵蘑菇云”。我们将会看到，大国拒绝作出常识性的承诺，也就是不承诺他们不会第一个使用核武器，原因之一在于他们希望保留在面对其他可能的生存威胁时使用核武器的权利，例如生化恐怖行动和网络攻击。[2]培植对于假想灾难的恐惧，不仅不能保卫人类的未来，反而更能使人类陷入危险境地。
列举世界末日场景的第二个弊端在于人类的资源、脑力和焦虑是有限度的，我们不能为所有事情担忧。一些存在于眼前的威胁是确凿无疑的，例如气候变化和核战争，需要我们付出大量的努力和机智来解决它们。但是，将它们列为异乎寻常的情景之一（这些情景发生的可能性很小或不确定是否存在）只会冲淡紧迫感。请回想一下人们在评估可能性，尤其是较小可能性时的能力有多差，所以他们会通过想象来评估。如果两个场景都可以同样地进行想象，它们发生的可能性或许就会被认为是相同的，那么人们对真正危害的担忧就不会高于对科幻情节的担忧。并且，人们能够想象坏事发生的方法越多，他们预计坏事将会发生的可能性也就越高。
这就会导致最危险的事情发生，人们就会认为，正如《纽约时报》的一篇文章所说的那样：“这些残酷的事实会让任何通情达理的人都得出一个结论——人性糟糕透了。”[3]如果人性真的糟糕透了，为何还要做出牺牲来减少潜在的风险呢？为何还要放弃石油燃料的便捷性？为何还要劝告政府重新思考它们的核武器政策呢？吃吧，喝吧，高兴起来，因为明天就是我们的末日！2013年在4个英语国家开展的一项调查表明，在相信我们的生命将于本世纪末终结的调查对象中，大部分人都支持这样的说法：“世界的未来看起来如此糟糕，所以我们必须把精力放在照顾自己以及所爱之人的身上。”[4]
很少有技术风险方面的作家关注大肆宣扬世界末日会带来什么样的累积心理影响。正如环境传播工作者艾琳·凯尔西（Elin Kelsey）所指出的那样：“我们设立了媒体分级来保护儿童，使他们避免接触电影中关于性或暴力的内容，但是我们却丝毫没有考虑过，邀请科学家到二年级教室并告诉孩子们地球正在毁灭，这会造成什么影响。1/4的（澳大利亚）儿童为世界的状态深感忧虑，他们真的相信在他们老去之前地球就会遭受厄运。”[5]最近的民意调查显示，全世界有15%的人也有这样的想法，这差不多相当于美国人口的1/4到1/3。[6]在《美国人何以如此郁闷：进步的悖论》（The Progress Paradox）一书中，记者格雷戈·伊斯特布鲁克（Gregg Easterbrook）指出，美国人不幸福的主要原因之一在于，尽管他们的客观财富在不断增加，但他们处于“崩溃焦虑”的状态：他们担心文明或许会崩溃，但所有人都将束手无策。
虚惊一场的“千年虫”
当然，如果风险是真实的，人们的情绪就无关紧要了。但当人们在复杂系统中处理高风险事件时，风险评估就会土崩瓦解。由于我们不能千百次地回放历史并计算结果，认为某些事件发生的可能性为0.01、0.001、0.000 1或0.000 01的说法基本是评估人主观自信的论断。这涉及数学分析，科学家绘制事件（比如战争或网络攻击）在过去的分布图，并展示出它们的幂律分布；如果是分布图的尾巴很“肥”或很“厚”，这说明极端事件可能性极小，但是并非没有发生的可能性。[7]数学在标定风险方面的用处不大，因为在分布图尾巴上任意分布的数据通常会发生异常情况，偏离顺畅的曲线且无法进行预测。我们所知道的就是任何坏事都有可能发生。
这就让我们回到主观论断上，它们似乎被实用性和消极性偏见以及庄重使命感的市场夸大了（见第4章）。[8]那些为可怕预言培植恐惧的人看起来或许是严肃而负责的，而那些谨慎对待预言的人看起来则显得自满而天真。绝望之中透露着永恒。至少自希伯来先知和《启示录》起，预见者们已经开始警示他们同时期的人末日将近。关于世界末日的预测是心灵研究者、神秘主义者、电视布道者、疯狂邪教人士、宗教创建者，以及身上挂着牌子、在马路边边走边说“忏悔吧！”的人的基本论调。[9]
故事的高潮体现在对技术傲慢的严厉报复上，这是西方故事的原型，其中包括普罗米修斯之火、潘多拉的盒子、伊卡洛斯的飞行、浮士德式交易、魔法师的学徒、弗兰肯斯坦的怪物以及好莱坞250多部关于世界末日的电影。[10]正如历史学家埃里克·齐赛（Eric Zencey）所言：“在关于天启的思考中存在一种诱导：如果某人生活在世界末日，那么他的行为、他的一切生活都拥有历史性的意义，因而没有了辛酸。”[11]
科学家和技术专家也不可能对此免疫。还记得千年虫吗？[12]在20世纪90年代，随着千禧年的临近，计算机科学家开始警示全世界有一场灾难即将临头。在电脑运算的早期几十年里，信息非常昂贵，程序员通常为了节省两个字符而用年份的最后两位数字代表年份。当时他们指出，到2000年，隐含的前两位数字“19”就会失效，程序就会被废弃。但是，复杂软件的替代很慢，许多老的程序仍在机构的大型主机里运行并镶嵌在芯片里。到2000年1月1日凌晨0点，后两位数就会重新投入使用，程序会认为这是1900年，然后崩溃或陷入混乱。这或许是因为，程序会用它所认为的当前年份与1900年之差，也就是零来作为除数，至于程序为什么会这么做成了一个永远无法解开的谜团。此时，银行存款会被清除，电梯会在楼层间停止，产科病房里的培养箱将会关掉，水泵不再运行，飞机会从天上掉下来，核电站会熔化，洲际弹道导弹将从筒仓里发射出来。
这些都是精通技术的当局所做出的冷静预判，时任美国总统比尔·克林顿曾向国人发出警告：“我想强调这次挑战的紧迫性。这不是在看暑期电影，遇到恐怖的部分你还可以闭上眼睛。”文化悲观主义者将千年虫视作我们的文明为技术着迷所得到的应有报应。在宗教人士看来，基督教千禧年主义身上的数字命理联系是无法抗拒的。杰瑞·法威尔（Jerry Falwell）牧师宣称：“我相信千年虫或许是上帝用来撼动这个国家、使之谦卑、使之觉醒的工具，并且上帝将在这个国家复活，在教会被提(59)之前展示地球的面貌。”全世界花费了上千亿美元来为软件重新编程，以便为千年虫作好准备，这就好比为全世界的每一座桥梁更换每一颗螺丝。
作为曾经的汇编语言程序员，我很怀疑世界末日的情节，并且很偶然地，当时我在新西兰，那是第一个迎来新千禧年的国家。果不其然，在1月1日的凌晨0点，什么都没有发生（我马上用全功能电话确认了身在美国的家人一切平安）。为千年虫而重新编程的程序员们就像大象驱逐装置的销售员一样，因为宣扬灾难而广受好评，但是许多国家和小企业冒着风险没有做对抗任何千年虫的准备，也没出问题。尽管有些软件需要更新（例如，我手提电脑里的一个程序显示的是“19100年1月1日”），但结果表明很少有程序，尤其是内置在机器里的程序，因为包含了这个故障而出问题。这次威胁最终并不比人行道上预言者广告牌所宣告的情况更严重。这场浩浩荡荡的千年虫恐慌并不意味着所有关于潜在灾难的警告都是错误警告，但它提醒我们，我们很容易受到技术天启错觉的影响。
技术与命运
那么，应该如何看待灾难威胁呢？让我们从最大的生存问题开始切入——我们这个物种的命运。生物学家开玩笑称，几乎所有的物种都会灭绝，因为这是曾经存在过的99%的物种的命运。典型的哺乳动物大约能存在100万年，很难说智人会是例外。即便我们在技术上还处于简陋的狩猎－采集时期，我们依然生活在地质射击场上。[13]
从超新星或坍缩星射来的一束伽马射线就可以导致一半的地球被辐射，导致大气层变成褐色；它还能摧毁臭氧层，然后让紫外线辐射另一半。[14]地球的磁场也有可能逆转，使地球暴露在太阳和宇宙的致命辐射之中。小行星也有可能撞向地球，使数千平方千米的地方被夷为平地；它激起的碎片有可能会遮蔽太阳，让我们被腐蚀性的雨淋透。超级火山或大规模熔岩流会让我们在灰烬、二氧化碳和硫酸中窒息。黑洞可能会进入太阳系，让地球脱离原来的轨道而被吸入黑洞。即便物种能够成功存活10亿年，地球和太阳系也存活不了这么久：太阳上的氢将被耗尽，太阳会变得更重、更热，从而让海洋蒸发，让地球变成一颗红色的巨星。
那么，技术不是导致人类在未来某天必须面见死神的原因。相反地，技术是我们能够骗过死神（至少一小段时间）的最大希望。只要还在与遥远未来的假想灾难对峙，我们就必须想到能够让我们渡过灾难的假想进步，比方说，用核聚变产生的光来种植食物，或者可以在工厂里像合成生物燃料一样合成食物。[15]甚至存在于不那么遥远的未来的技术能够挽救我们的皮肤。追踪小行星和其他“灭绝性近地物体”的运动轨迹，找到撞向地球的物体并在它们送我们去见恐龙之前将其推离轨道，这从技术上来说是可行的。[16]美国国家航空航天局还发现了用高压将水喷向超级火山、从地热能中提取热量以及冷却岩浆使它不至于喷发的办法。[17]我们的祖先无力阻止这些致命的威胁，所以从这方面来说，技术并没有使人类陷入历史上前所未有的危险时代，而是营造了一个前所未有的安全时代。
基于这个理由，技术天启所认为的我们的文明是第一个自我毁灭的文明是一种错误设想。就像奥兹曼迪斯在雪莱的诗中提醒旅人的那样，大多数存在过的文明都被毁灭了。传统历史将毁灭归咎于外部事件，例如瘟疫、征伐、地震或天气原因。但量子物理学家戴维·多伊奇指出，如果这些文明拥有更好的农业、医疗或军事技术，它们可以战胜那些致命的打击：
在我们的祖先学会人工生火之前以及此后的许多时间里，人们死在大火中，而这些大火本可以救他们的命，但他们却不知道该怎么做。从狭隘的视角来看，是天气杀死了他们，但更深层次的解释是他们死于知识的缺乏。历史上数以亿计的霍乱患者中，有许多人一定死在离壁炉不远的地方，他们本可以用壁炉将水烧开饮用，并挽救自己的生命，但是同样地，他们不了解这个知识。非常普遍的是，“自然”灾害与由于无知而引起的灾害之间的区别很小。面对每一场人们过去习惯认为是“碰巧发生”或由神安排的自然灾害，我们现在知道了受影响的人们有许多本来可以采取或者创造的选择。所有这些选择加起来就是他们未能创造的至关重要的选择，即未能形成跟我们一样的科学的、技术的文明；即批评的传统；即启蒙。[18]
人工智能是我们的末日吗？
在有可能威胁人类未来的生存威胁中，有一些就好比21世纪版本的千年虫。这种灾难有时被称为“机器人启示录”（Robopocalypse），并且可以从电影《终结者》中看到范例，这是我们将被人工智能（AI）有意或无意征服的危险。就像对待千年虫一样，一些聪明人对此非常严肃。拥有制造人工智能自动驾驶汽车公司的埃隆·马斯克（Elon Musk）认为，这种技术的“危险性胜过核武器”。通过人工智能合成器发言的史蒂芬·霍金警告说，它或许“预告着人类的终结”，[19]但聪明人中依然保持清醒的大多都是人工智能和人类智能方面的专家。[20]
机器人启示录建立在对于智能的错误理解上，这种错误理解更多地应归因于“伟大的存在之链”以及尼采主义者的权力意志论，而非现代科学的理解。[21]在该概念中，智能是一副全能的、能够实现各种愿望的药剂，各种生命体拥有的剂量不一。人类拥有的智能比动物多，并且未来的人工智能计算机或机器人（可以说“一个AI”，AI被当作可数名词）拥有的智能比人类多。由于我们人类使用了中等天赋剂量来驯养或铲除天赋剂量不如我们的动物，并且技术先进的社会已经奴役或毁灭了技术处于原始状态的社会，接下来超级聪明的人工智能也会这样对待我们。由于人工智能的思考速度比我们快上百万倍，并且可以使用超级智能来迭代提高自身的超级智能（这个情景有时也被称为“嘭”，取自漫画书里的声音效果，这里指意志的突然觉醒），从它启动的那一刻起，我们再也无法阻止它。[22]
然而，这个情节就好比我们担心由于喷气飞机超越了鹰的飞行能力，有一天它就会从天上突然冲下来袭击牛羊一样。对人工智能的第一重误解在于混淆了智能与动机，也就是混淆了信仰与欲望、推断与目标、思考与渴望之间的区别。即便我们真的发明了超人类智能机器人，它们为何会想要奴役自己的主人或掌控世界？智能是使用创新手段达成目标的能力。但目标与智能并无关联：聪明不等于欲望。碰巧的是，智能在智人的系统里是达尔文自然选择的产品，是一种天然的竞争过程。在人类的大脑里，智能与统治对手、积累资源这样的目标是结合在一起的（不同人种的程度不同）。将某些灵长类动物边缘脑的回路与智能的特性进行混淆是错误的。
人工智能系统是设计而非进化而来，它们只能像什穆（Shmoo）一样做一些简单的思考。什穆是阿尔·卡普（Al Capp）的连载漫画中满脸斑点的利他主义动物，它们用自己无穷的智慧烤熟自己，以饱人类的口福。复杂系统中并没有什么规则认为智能必须转换为无情的征服者。事实上，我们知道有一种高度进化但却没有这方面缺陷的智能，那就是女人。
第二重误解在于将智能当作无穷无尽的能力，当作一种能够解决任何问题的神奇万能药。[23]这个谬误会引发荒谬的问题，比方说人工智能什么时候能够“超越人类的智能”，并且人们还会幻想出一种终极的、拥有神一般全知全能的“通用人工智能”（AGI）。智能是一种奇巧的装置：它拥有在不同领域实现不同目标的知识，或者说拥有用这些知识进行编程的软件模块。[24]
人类具有寻找食物、结交朋友和贵人、吸引配偶、养育孩子、去全世界旅行并且追求其他属于人类的爱好和消遣的能力。计算机或许被设计用于解决部分这些问题（例如识别人脸）但并非全部（例如吸引配偶），并且可以用于解决部分人类无法解决的问题（例如模拟气候或对数以百万计的账簿进行分类）。这些问题是不相同的，需要用来解决问题的知识也就不同。
拉普拉斯妖(60)这种神秘的生物知道世界上每一个粒子的位置和动向，并且可以将它们套进物理法则的方程式里，计算出一切事物在未来任何时间的状态；与之不同的是，现实生活中的认知者必须通过接触某个领域以获取关于混乱世界里物体和人类的信息。理解力并不遵从摩尔定律，知识是通过阐述解释并在现实中进行测试而得来的，并不是通过越来越快的运算速度就能得到。[25]吸收互联网上的信息也不会获得无限的知识：大数据依然是有限的数据，而世界的知识是无限的。
因为这些误解，许多人工智能研究者被最近的大肆宣传（这是关于人工智能的长期祸害）困扰着，这会误导他们认为通用人工智能即将来临。[26]据我所知，制造通用人工智能的项目目前并不存在，这不仅是因为它在商业上是靠不住的，而且还因为这个概念基本不清晰。21世纪第一个10年为我们带来了可以驾驶汽车，识别图片，识别语音以及在《危险边缘》益智问答节目、围棋、电脑游戏中击败人类的系统。
但是，进步并不源自对于智能运行原理的更好理解，而是来源于运算速度更快的芯片以及数据量更大的大数据所具有的蛮力，它们可以让程序在数百万个案例中进行训练，从而概括出类似的新算法。这些系统都是愚笨的专家，几乎没有能力解决没有被安排去解决的问题，并且它们的掌控能力十分脆弱。图片识别程序会将即将发生的空难标记为“停在飞机跑道上的飞机”，打游戏的程序会因为评分规则上最微小的改动而感到困惑。[27]尽管这些程序肯定会变得越来越好，但却没有表现出“嘭”的迹象，也没有做出占领实验室或奴役程序员的举动。
即便通用人工智能试图锻炼掌控的意志，但若没有人类的合作，它仍将是无能的“缸中之脑”(61)。计算机科学家拉米兹·纳姆（Ramez Naam）击破了围绕在“嘭”周围的泡沫——技术奇点论以及指数型的自我迭代论：
想象你是一个在微处理器（或许是数百万个这样的微处理器）上运行的超级智能的人工智能。突然之间，你想出一种针对你所在的微处理器更加快速、更加强大的设计。现在……该死！你不得不真的去生产这些微处理器。而那些加工厂需要消耗大量的能量，输入从世界各地进口的材料，高度控制需要气闸、过滤器以及各种各样专门设备的内部环境，等等。所有这一切需要花时间和精力来获取、运输、合成、建造厂房、建造电站，并且生产。真实世界是自我超越螺旋式上升的障碍。[28]
真实世界不可能让数字天启顺利发生。当HAL(62)变得傲慢自负，HAL的操控者用一把螺丝刀终止了它的运行，让它停留在了不停地对自己哀伤地唱着迪士尼儿歌《双人自行车》（A Bicycle Built for Two）的状态。当然，人们总能想象一个邪恶的、拥有一切授权、可以永远运行并且可以防止篡改的世界末日计算机。对付这种威胁的方法很简单：不要创建它。
由于邪恶机器人的前景过于朦胧而不足以严肃对待，生存卫士们又发现了一个新的数字末日。这个故事情节不是以弗兰肯斯坦这个科学怪人或希伯来传说中的魔像为基础的，而是基于可以让我们许三个愿望的妖怪，第三个愿望必须使前两个失效，并且以迈达斯国王将他所碰触的一切（包括食物和家人）变为金子的故事为基础。这种危险性有时称为价值对齐问题（Value Aligment Problem），是指我们为人工智能设立了目标，然后只能站在一旁看它残酷而专心致志地执行它对目标的理解，而我们的利益可能将被摧毁。如果我们为人工智能设立目标，让它维持水坝后边的水位，它或许会让一个城镇被洪水淹没，却毫不关心溺水的人。如果我们让它完成制造回形针的目标，它或许会把一切触手可及的东西变成回形针，包括我们的财产和身体。如果我们要求它实现人类幸福的最大化，它或许会为我们静脉注射多巴胺，或重设我们的脑回路，让我们带着最幸福的状态坐在缸中；如果它在训练中获得了幸福等于笑脸照片的概念，它会在整个银河系铺上上万亿张纳米级别的笑脸照片。[29]
这并非是我胡编乱造，这些都是高级人工智能可能对人类造成的生存威胁。幸运的是，这些情节是自相矛盾的。[30]它们依赖于几个前提条件：（1）人类拥有极高的天赋，可以设计出全知全能的人工智能，但同时人类又非常白痴，以至于在未经测试的情况下赋予人工智能掌控世界的权力；（2）人工智能聪慧至极，懂得如何转化元素以及如何重设脑回路，但又愚笨到犯下误解的基本错误而造成极大的破坏。要想具备选择最能满足目标行动的能力，并不是工程师加上一个附件就行，这需要智能。根据语境解读说话者意图的能力也是智能。只有在《糊涂侦探》（Get Smart）那样的电视喜剧中，机器人会对“抓住服务员”的命令做出将主人举过头顶的举动，或者听到“熄灯”的命令而掏出手枪击中灯。
如果我们能够抛开意识觉醒、数字傲慢、即时全知以及对宇宙间任何一个分子完美掌控的幻想，人工智能可以算作另外一种技术。它历经循序渐进的开发，能够满足多种情境，在应用前要经过测试，并且为了效率和安全性要不断进行调整（见第12章）。用人工智能专家斯图尔特·罗素（Stuart Russell）的话来说，“在民用工程领域，没有人会谈论‘建造永不坍塌的大桥’，他们仅仅会说‘建造大桥’”。同样，“只有益处而没有危险的人工智能才是人工智能”，他如是说道。[31]
可以肯定的是，人工智能带来了一个更加世俗的挑战，那就是如何安置那些因为自动化而失业的人。不过，这类工作不会很快消失。美国国家航空航天局在1965年的一份报告中所提出的观点仍然有效：“人类是一种成本最低、重量仅为68公斤、非线性的全能计算系统，哪怕是技术不娴熟的工人也可以大量生产出来。”[32]相对于从洗碗机中取出碗筷、跑腿或换尿布来说，驾驶汽车是更为简单的工程问题，并且直到本书创作之时，我们依然没有准备好向城市街道投放自动驾驶汽车。[33]在机器人阵营可以为发展中国家孩子打预防针以及修建学校之前，或者可以为我们这样的国家建设基础设施、照顾老人之前，大量工作机会依然存在。被用在软件和机器人设计上的巧妙心思，同样也可以用在政府和私营部门政策上，从而让闲置劳动力与待完成的工作匹配起来。[34]
邪恶的技术天才
如果机器人不会导致世界末日，那么黑客呢？我们都有一些关于黑客的刻板印象：保加利亚的青少年，穿着平地人字拖、喝着红牛的男人，以及特朗普在2016年总统竞选辩论中说的“坐在床上、体重达180公斤的某些人”。按照思考的普遍路径，随着科技的进步，个人的破坏力也会成倍增加。单个疯子或恐怖分子在车库里制造出核炸弹、基因工程师制造瘟疫病毒或有人攻陷互联网，做到这些都只是时间问题。并且，由于现代社会是如此依赖技术，中断运行就能带来恐慌、饥荒和混乱。2002年，马丁·里斯公开打赌：“到2020年，一场生物恐怖活动或一次生物错误就能导致100万人伤亡。”[35]
应该如何看待这些噩梦呢？有时候，它们是为了让人们更加重视安全漏洞，因为有理论认为，能够动员人们采取负责任政策的最有效方法是恐吓他们生存机会正在减少（我们将在本章再次遇到这个理论）。无论这个理论正确与否，没有人会提出我们应该对网络犯罪或疾病暴发漠不关心，这些已经成为现代社会的苦恼了（我将在后面的部分谈论核威胁）。计算机安全和流行病方面的专家永远在尝试向这些威胁迈进一步，各国也应该对此有所投入。军事、金融、能源、互联网和基础设施的安全性和复原力应该得到提升。[36]针对生化武器的条约和安全保卫工作可以加强。[37]在疾病变成流行病之前进行确认和控制的跨国健康网络应该得到扩大。同更好的疫苗、抗生素、抗病毒药以及快速诊断测试一道，它们对人为病原体的效果将同对天然病原体一样有用。[38]各国还需要继续采取反恐怖分子和预防犯罪的措施，例如监视和窃听。[39]
在以上各项军备竞赛中，防御是永远不可能不被攻破的。网络恐怖主义和生物恐怖主义都有可能会发生，并且灾难发生的可能性也永远不可能为零。我所考虑的问题在于，这些严峻的事实是否会让许多理性的人得出“人性糟糕透了”的结论。黑帽黑客是否会不可避免地在某一天以智能战胜白帽黑客，而让文明屈膝在他们的脚下？科技的进步是否会让世界陷入一种新的脆弱状态？
没有人能够给出确切的答案，但是当我们用更冷静的思考取代对最糟糕情况的恐慌时，悲观情绪就会消散。让我们从历史的搜查开始：个人造成的大规模破坏是不是科学革命和启蒙运动前进过程中的自然结果。按照这种说法，技术让人们能以最少的付出获得最大的收获，因此，如果假以足够时间，它可以让人拥有为所欲为的能力，如果人类天性使然，那就意味着毁灭一切。
然而，凯文·凯利认为，实际上这并非技术进步的方式。[40]凯利同斯图尔特·布兰德一道是1984年第一届黑客大会的联合组织者，从那时起，人们就反复地告知他，技术随时都有可能避开人类驯化它的能力。尽管技术在近几十年里取得了巨大的发展（包括互联网的发明），这种预言也没有变为现实。凯利认为其中的一个原因是：“技术变得越强大，它们与社会结合的程度就越深。”高端科技需要互相连接的合作者，他们又属于更大社会网络的成员，他们中的许多人都致力于让人们不因技术和他人而受到伤害。正如我们在第12章中看到的那样，技术正在变得越来越安全。这就使好莱坞的老生常谈变得站不住脚：孤僻的邪恶天才占据了高科技的隐蔽之所，在那里，技术可以神奇地自动工作。凯利认为，由于技术嵌入了社会，孤僻个人的破坏能力并没有与时俱增：
技术越复杂、越强大，人们就越需要把它变成武器。人们越需要把它变成武器，社会控制就越要让它降低危险、防止人们受到伤害。我再加入一点儿想法。即便你的预算能够雇得起一个科学家团队，让他们负责开发一种可使物种灭绝的生物武器，或者让他们把互联网破坏得一干二净，你很有可能仍然无法这么做。这是因为，就互联网而言，为了防止这种事情的发生，人类已经倾注了成千上万年的努力。就生物而言，为了防止物种的灭绝，人类经历了数百万年的进化努力。这极其难以实现，并且团队越小、越拙劣，实现的难度就越大。[41]
所有这些都是抽象的。如何才能将它应用到我们所面临的实际危险中，从而让我们能够思考人性是否糟糕透了？关键在于不要迷恋可得性偏差，不要假设如果我们能够想象有些事情非常糟糕，它就一定会发生。真正的危险取决于数字：试图进行故意伤害或大屠杀的人所占的比例，有能力制造有效的网络或生物武器的种族灭绝少数分子所占的比例，计谋能够得逞的少数分子中的少数分子所占的比例，以及能够造成文明毁灭重大灾难（而非麻烦事、打击甚至灾难）的少数分子中的少数分子中的少数分子所占的比例。
让我们从疯狂者的数量开始谈起。现代社会是否存在大量向陌生人实施谋杀和蓄意破坏的人？如果是的，生活会变得完全不同。他们会发起令人恐惧的暴乱、向人群扫射、用车把行人撞倒、引爆压力炸弹、把人群从人行道和地铁站台上推到车辆飞驰的车道上。根据研究员格温·布朗温（Gwern Branwen）的统计，一个训练有素的狙击手或连环杀手如果不被抓住，有可能谋杀数百人。[42]破坏欲望强烈的破坏者会搞乱超市的商品，将杀虫剂混入饲养场或水源，甚至打匿名电话告诉别人自己做了这些事情，这会让公司因召回产品而损失数千万美元，让国家损失数十亿美元的出口金额。[43]这样的袭击每天可能在世界的每个城市发生多次，但实际上每隔几年才发生一次。这让安全专家布鲁斯·施奈尔（Bruce Schneier）不禁发问：“恐怖分子到底在什么地方发动攻击？”[44]尽管恐怖主义制造那么多恐怖活动，但很少有人会等待机会肆意破坏。
在这些堕落的人中，有多少人拥有高智能并接受过训练从而能够开发出有效的网络或生物武器呢？大多数恐怖分子距离犯罪天才还有很大差距，他们不过是笨手笨脚的呆子。[45]典型的例子就像“鞋子炸弹袭击者”，他试图点燃装在自己鞋子里的炸药来炸毁飞机，但是失败了；还有“内衣炸弹袭击者”，他试图点燃装在自己内衣里的炸药炸毁飞机，但也失败了；“伊斯兰国”教练在自杀式恐怖分子的课堂上展示了一件爆炸马甲，然而却将自己和21名恐怖分子炸成碎片；察尔纳耶夫兄弟（Tsarnaev brothers）发动了波士顿马拉松爆炸事件，由于偷枪未遂而杀死了一名警察，之后又开始劫车、抢劫，甚至展开好莱坞式的追车，在追车过程中他们中的一人从另一人的身上碾压过去；此外还有阿卜杜拉·阿勒阿西里（Abdullah al-Asiri），他试图用藏在肛门里的简易爆炸装置暗杀一位阿拉伯的副部长，但最终却消灭了自己。[46]一家情报分析公司指出，这起事件“标志着自杀式爆炸策略的思维转换”。[47]偶然地，在2001年9月11日，一伙聪明而训练有素的恐怖分子得逞了；但大多数得逞的计谋都是在目标众多的集会上进行低科技含量的袭击，并且（正如我们在第13章中看到的那样）死亡人数甚少。事实上，我猜测聪明的恐怖分子在人群中所占比例甚至低于恐怖分子的比例乘以聪明人的比例。恐怖主义被证明是无效的策略，并且纯粹为了愚蠢的蓄意破坏而感到高兴的人可算不上聪明。[48]
在为数不多的聪明的武器制造者中，既聪明又能幸运地逃过世界上警察、安全专家和反恐部队法眼的比例就更小了。这个数值或许不是零，但肯定不高。就像许多复杂的事业一样，生物恐怖分子或网络恐怖分子的组织要比单个恐怖分子更有效。但是，凯文·凯利针对这个角度也做出了评论：组织的头目必须要招募和管理一伙同谋者，他们要为可鄙的目标训练出绝对保密、能干和忠诚的人。随着团伙规模的不断扩大，侦察、背叛、渗透、犯重大错误和烂尾的概率也会增大。[49]
要想对国家基础设施的完整性造成严重威胁，这可能需要动用整个国家的资源。[50]光有入侵软件还不足够，黑客必须详细了解关于他所希望破坏的系统的机械结构。2010年，伊朗核离心机被一种名为“超级工厂”的病毒侵染，但在这背后却是美国和以色列这两个技术强大的国家在搞鬼。国家层面的网络破坏已从恐怖主义的恶意行为升级成了战争，其中国际关系的束缚，包括标准、条约、制裁、反击和军事威慑，都会抑制侵略攻击，正如它们在传统“动能”战争中所起的作用一样。就好像我们在第11章中看到的那样，这些束缚已经越来越多地在阻止国家之间的战争上起到了作用。
尽管如此，美国军事官员警告要小心“数字珍珠港”和“网络大决战”，也就是说其他国家或复杂的恐怖主义组织有可能会黑入美国的站点，从而摧毁风机、打开洪水阀门、熔化核电站、切断电网以及攻陷金融系统。大多数网络安全专家认为这些威胁被高估了，他们认为这是为了获取更多军事拨款、权力、限制互联网隐私和自由的托词。[51]到目前为止，事实上还没有人因为网络攻击而受伤。现在最让人困扰的是敏感信息泄露，也就是泄露一些秘密文件或电子邮件（例如俄罗斯干扰2016年美国大选时的举动），以及分布式拒绝服务攻击，也就是僵尸网站或一系列被黑客侵入的电脑用流量冲毁某个网站。布鲁斯·施奈尔解释道：“用现实世界的例子来比拟的话，或许就好像一支军队入侵了一个国家，然后全部在机动车管理局门前站成一排拦住人们，让他们无法更新驾照。如果那就是21世纪战争的模样，那么我们也没有什么好恐惧的。”[52]
然而，对于技术末日论者，可能性很小并不是一种安慰。他们说，只要一名黑客、一名恐怖分子或一个流氓国家有点运气，那就完了。这就是为何“威胁”一词的前面加有“关乎存在的”定语，这是自萨特和加缪全盛期以来这个形容词所承载的最大考验。2001年，美国参谋长联合会议主席提出警告说：“最大的生存威胁就是网络。”这使约翰·米勒评论道：“相对于那些小的生存威胁而言，或许是这样。”
这种存在主义取决于从麻烦事到灾祸、从悲剧到灾难再到毁灭间的偶然滑动。假设有一个生物恐怖或网络恐怖的事件导致100万人丧生，这个国家就不复存在了吗？文明就会崩溃吗？人类就会灭绝吗？拜托，这是一个很小的比例，甚至连广岛都依然存在！在假设中，现代人是如此无助，如果互联网断开，农民会站在一旁看着他们的庄稼烂掉，而茫然的城市市民就会挨饿。然而，灾难社会学（disaster sociology）已经证明，人们在面对灾难时的复原能力非常强。[53]人们不会趁乱打劫、陷入恐慌或瘫痪状态，而会立即合作重新恢复秩序、建立临时网络以便分销商品和服务。社会学家恩里科·克兰特利（Enrico Quarantelli）指出，在广岛核爆炸的几分钟里：
幸存者们加入了寻找和救援，用任何可能的方式帮助别人，并且从战火燃烧的区域撤回可控飞机。在一天之内，除了部分尚存的政府和军事组织开展的计划外，其他团体部分恢复了某些区域的供电，一家只有二成工人的钢厂又开始运作，广岛12家银行的雇员在市里的广岛分行集合并且开始进行支付，通往市内的电车路线又被批准在第二天恢复交通的部分地区运行。[54]
第二次世界大战的死亡人数之所以如此骇人听闻，是因为双方的战争策划者都采用了轰炸平民直至社会瓦解的策略——但社会永远不会瓦解。[55]并且，复原能力并不是过去同质社会的遗留物。21世纪的世界社会也能应对灾难，正如我们看到的那样，在美国“9·11”事件发生后，下曼哈顿有序撤离；2007年，爱沙尼亚发生毁灭性的拒绝服务网络袭击时，也没有出现恐慌。[56]
生物恐怖主义可能是另一种虚幻的威胁。在1972年的国际会议上，几乎每一个国家都宣布放弃使用生化武器，它在现代战争中已经毫无立锥之地。这种禁令是出于每个人心中普遍的强烈反感，但世界各国的军队几乎不需要理由就要这么做，因为微小的生物都可能变成巨大的武器。它们很容易爆炸，然后让武器研制者、战士及平民受到感染。疾病暴发是否会成为流行病取决于复杂的动态网络动态，即便是最顶尖的流行病专家也无法预测。[57]
生物制剂对于恐怖分子来说特别不适用，他们的目标不是伤害，而是威胁（见第13章）。[58]生物学家保罗·埃瓦尔德（Paul Ewald）指出，病原体的自然选择过程与恐怖分子突然而意外的摧毁目标相违背。[59]依赖于人与人之间的接触而快速传播的病菌，例如常见的感冒病毒，会选择让自己的寄主活下去并且可以走动，这样病人就能尽可能多地与他人握手、对着别人打喷嚏。只有在可以通过其他传播途径的情况下，病菌才会变得贪婪并杀死寄主，例如蚊子可以传播疟疾，被污染的水源可以传播霍乱等。通过性途径传播的病原体，例如艾滋病毒和梅毒，则介于两种情况之间；它们需要一段很长的无症状潜伏期，以便让寄主将病毒传染给伴侣，此后病毒就会进行致命的破坏。
病毒性和传染性由此而相互权衡，并且病毒的进化过程会挫败恐怖分子引发最具新闻价值的、又快又致命的流行病的愿望。从理论上来说，生物恐怖分子有可能改变病原体的曲线，使之既有病毒性、传播性，又能存活足够长的时间以便能够在体外生存。然而，培育这样一种精心调制的病毒需要像纳粹一样进行活体实验，恐怖分子甚至都不可能开展这样的实验。至今为止，只有一起生物恐怖袭击（1984年在俄勒冈州，拉杰尼希邪教的狂热分子在沙拉里加入了沙门氏菌，没有人死亡）以及一次狂欢杀人事件得逞（2001年的炭疽邮件，致使5人死亡）。[60]
当然，合成生物学上的进步，例如基因编辑技术CRISPR-Cas9，使改造有机物（包括病原体）变得更加容易。但是，很难通过植入一两个基因而重新构造复杂的演化特征，这是因为任何基因都要与有机体的其他基因组交织在一起才能发挥作用。埃瓦尔德指出：“我不认为我们已经懂得将基因变异组合植入任何病原体内，并制造出具有高度遗传性和高度病毒性的病毒。”[61]生物科技专家罗伯特·卡尔森（Robert Carlson）补充道：“制造流行病毒的问题之一在于你需要让你的生产系统（即细胞或卵子）存活时间足够长，以便生产出足够多的病毒，它们会试图杀死这个生产系统……启动这样的病毒依然非常非常困难……我不能完全排除这种威胁，但是坦率来讲，我更担心自然母亲一直以来向我们抛来的威胁。”[62]
此外，至关重要的是，生物领域的进步也在以另一种方式发挥着作用：它们也让好人（远比坏人人数要多）能够识别病原体，发明能够克服抗生素耐药性的抗生素，并且快速开发出疫苗。[63]其中一个案例就是埃博拉疫苗，它是在2014—2015年的突发事件后期被开发出来的，公共卫生工作使死亡人数限制在12 000人而不是媒体所预估的上百万人。埃博拉也因为成为被错误预估的流行病之一，这样的疾病还包括拉沙热、非典型性肺炎（SARS）、疯牛病、禽流感以及天鹅流感。[64]这其中的部分疾病甚至在最初阶段就没有成为流行病的潜力，因为它们是从动物或食物感染而来，而不是来自人与人相互感染的增强指数树。其他疾病则被医疗和公共卫生干预扼制了。当然，没有人可以肯定，是否会有一个邪恶的天才，为了好玩、报复或某个所谓神圣的理由，而在未来某天克服世界上所有的防备，然后引发一次世界瘟疫。然而，新闻工作者的习惯以及可得性及消极性偏差将会放大这种概率。[65]
核战争的威胁
有一部分针对人类的威胁是幻想出来的，或者发生概率极小，但有一个是真的：核战争。[66]目前世界上有一万多件核武器分布在9个国家。[67]其中许多是装载于导弹或炸弹之中，它们可以在一小时或者更短的时间内向数以千计的目的地发射。每一件核武器都具有巨大的杀伤力：仅仅一个就能摧毁一座城市，它们集合起来的爆炸威力、热量、辐射和放射性尘降物能杀死数以亿计的人。如果印度和巴基斯坦打仗，引爆他们的100件武器，2 000万人就会立即丧生，并且爆炸产生的烟尘会在大气中扩散，摧毁臭氧层，让地球在未来十多年的时间里温度持续下降，这就会导致粮食产量降低，让10多亿人挨饿。如果美国和俄罗斯发动了不竭余力的核战争，那么地球的温度会在未来许多年里下降8℃，造成核冬季，或者至少是核秋季，这样一来遭受饥荒的人数会更多。[68]无论核战争是否会摧毁文明、生物或地球（通常被认为答案是肯定的），这都是一种难以想象的恐怖。
在向日本投放原子弹后不久，美国和苏联就开启了核军备竞赛，一种新形式的历史悲观主义开始形成。在这个普罗米修斯式的故事中，人类从诸神那里获取了致命的知识，但他们又缺乏谨慎使用这种知识的智慧，那么，人类注定会自我毁灭。在另外一个版本中，不仅仅是人类注定要发生这种悲剧，更高级的智能也会如此。这就解释了为何我们从未见过外星人来访，哪怕宇宙里肯定有很多外星人。一旦在某个星球上产生了生命，它们就会不可避免地发展出智能、文明、科学、核物理、核武器和自杀式战争，以至于在走出太阳系之前就自取灭亡。
对于某些知识分子来说，核武器的发明是对科学事业的控诉，实际上是对现代性本身的控诉，这是因为大屠杀的威胁抵消了科学所给予我们的恩赐。对科学的控诉似乎是错的，自核时代开始以来，由于当时的主流科学家对核政策持观望态度，自然科学家就发起了激烈的运动来提醒世界核能的危险性并督促各国放弃核武器。其中最著名的历史人物包括尼尔斯·玻尔、罗伯特·奥本海默（J. Robert Oppenheimer）、阿尔伯特·爱因斯坦、伊西多·拉比（Isidor Rabi）、莱奥·西拉德（Leo Szilard）、约瑟夫·罗特布拉特（Joseph Rotblat）、哈罗德·尤里（Harold Urey）、C. P.斯诺、维克托·威斯科夫（Victor Weisskopf）、菲利普·莫里森（Philip Morrison）、赫尔曼·费斯巴赫（Herman Feshbach）、享利·肯德尔（Henry Kendall）、西奥多·泰勒（Theodore Taylor）以及卡尔·萨根（Carl Sagan）。这种运动依然在今天的顶级科学家中延续着，其中包括史蒂芬·霍金、加来道雄（Michio Kaku）、劳伦斯·克劳斯（Lawrence Krauss）和马克斯·泰格马克（Max Tegmark）。科学家为主要的活动家和监察机构提供资金支持，包括忧思科学家联盟、美国科学家联合会、核责任委员会、帕格沃什会议以及《原子能科学家公报》，该报的封面画着著名的末日时钟，目前上面的指针显示距离午夜只有2分半。[69]
不幸的是，自然科学家通常认为自己是政治心理学方面的专家，他们中的许多人似乎都接纳了一种民间理论，即改变人们观念的最有效办法是用担心和恐惧的鞭子狠狠抽打他们。末日时钟尽管是在装饰着冠以“科学家”名头的杂志上，但却没有跟踪核安全的客观指标；相反地，它是一种宣传的噱头，用其创始人的话语来说，“通过恐吓人们进入理性状态以保全文明”。[70]末日时钟的指针是从1962年午夜开始走动的，那年正是古巴导弹危机的爆发之年；到了危机更加平缓的2007年，杂志的编辑担心公众变得过于无动于衷，因而重新修订了“末日”的定义，将气候变化包含在内。[71]在为撼动人们漠不关心的状态而发起的运动中，科学家们进行了一些不太准确的预测：
只有创建一个世界政府才能阻止即将到来的人类自我毁灭。
——阿尔伯特·爱因斯坦，1950年[72]
我坚信，除非我们对战略问题的各个方面进行严肃而冷静的思考……否则我们都活不到2000年，甚至活不到1965年，而这一切都无须发生大灾难。
——赫曼·卡恩，1960年[73]
至多在十年内，有些（核）炸弹会爆炸。我尽可能负责地说出这句话。这是必然的。
——C. P.斯诺，1961年[74]
我完全肯定，在我脑子里没有丝毫哪怕是最轻微的怀疑，到2000年，你们（这些学生）全都不复存在。
——约瑟夫·魏泽鲍姆（Joseph Weizenbaum），1976年[75]
又有一些专家加入了他们，例如政治学家汉斯·摩根索（Hans Morgenthau），他是国际关系“现实主义”的著名倡导者，他曾在1979年预言：
在我看来，世界正在不可避免地朝着第三次世界大战走去，这将是一场战略核战争。我不认为可以通过任何行动阻止它的发生。[76]
此外，记者乔纳森·谢尔（Jonathan Schell）在其1982年的畅销书《地球的命运》（The Fate of the Earth）的结尾写道：
有一天，很难相信它不会很快到来，我们就要做出自己的选择。我们要么陷入最终的昏迷，结束一切，要么正如我所相信的那样，我们将清醒地看见我们所面临的危险的真相……然后开始清除地球上的核武器。
尽管没能创建一个世界政府或清除地球上的核武器，但这种预言在冷战结束而人们并未陷入最终的昏迷时就已经过时了。为了让恐惧情绪保持在沸腾状态，活动家们不断列举侥幸脱险和未遂事故的例子，以期证明世纪末日大决战离我们只有一步之遥，并且人类仅仅是由于一丝神秘的运气才得以幸存下来。[77]他们的列表倾向于收集一些真正危险的时刻，例如几位苏联军官差点儿将1983年北约军事演习误认为先发制人的攻击；也有失误和混乱程度更低的事件，例如在2013年，一位负责核导弹、正在休假的退役美国将军在4天的俄罗斯旅游过程中喝醉了酒，对女性的行为十分粗鲁。[78]有可能升级为核冲突的突发事件从没发生过，可以说明实际情况从而减轻恐惧的评估也不会开展。[79]
许多反核活动家希望表达的信息在于“我们随时都有可能以恐怖的方式死去，除非全世界能够立即采取措施，而这些措施我们根本没有可能采取”。这对于公众的作用跟你能够预想的差不多：人们回避思考不堪想象的问题，继续生活，期望是专家搞错了。自20世纪80年代以来，图书和报纸上提到“核战争”的次数稳步减少，记者们对恐怖主义、不平等、各式各样的失礼和丑闻的关注远远超过对文明生存的威胁。[80]世界的领袖们也变得无动于衷。美国天文学家卡尔·萨根是报纸上首次警告核冬季文章的联合作者，在为核冻结而开展各种活动的时候，他试图激起人们的“恐惧，然后是信仰，最后是回应，”一位武器控制专家对他建议道，“如果你认为世界末日的可能性足以改变美国和俄罗斯的想法，你显然没有在他们身上下什么工夫。”[81]
在最近几十年里，人们转而预测即将发生的核灾难是通过恐怖主义而非战争的方式出现的，例如美国外交官约翰·内格罗蓬特（John Negroponte）在2003年写道：“基地组织在两年之内使用核武器或其他大规模杀伤武器进行攻击的可能性很高。”[82]尽管预测的概率性事件没有发生也不会让这种预测被否定，但是错误预测的绝对数量（约翰·米勒在其所有作品中作了超过70次预测，人类的末日往后移动了数十年）表明预言者偏向于对人们进行恐吓。[83] 2004年，4位美国政治家写了一篇针对核恐怖主义的威胁的特稿，《我们的头发着火了》（Our Hair is on Fire）。[84]这样的恐吓策略令人生疑。人们很容易被涉及枪支和自制炸弹的真实攻击激怒，从而支持镇压措施，例如实行国内监视或禁止穆斯林移民。但是对于蘑菇云将在缅因街升起的预测，几乎不会引起人们对打击核恐怖主义政策的兴趣，比如控制核燃料的国际项目。
这样的事与愿违早已被第一批核恐吓运动的批评家预测到了。早在1945年，理论家雷茵霍尔德·尼布尔（Reinhold Niebuhr）注意到，“终极的危险，无论多大，对于人们想象的影响都不如最直接的愤恨和摩擦来得有力，无论后者有多小”。[85]历史学家保罗·博耶尔（Paul Boyer）关于核武器的危言耸听实际上鼓励了军备竞赛，因为惊吓得各国追求更多更大的炸弹。[86]甚至末日时钟的创立者尤金·拉宾诺维奇（Eugene Rabinowitch）最后也为他的运动策略感到后悔：“科学家们在试图恐吓人们进入理性状态的同时，也让许多人变得卑怯或盲目憎恨。”[87]
解除核威胁的正确方式
正如我们在气候变化问题上看到的那样，如果人们认为问题是可以解决的，相对于被恐吓到麻木或无助状态，他们或许更有可能承认它。[88]将核威胁从人类处境中移除的积极日程需要包含以下理念。
要停止告诉人们：他们注定灭亡。关于核时代的基本事实是，自长崎之后再也没有使用过核武器。如果72年来末日时钟的指针都停留在距离午夜还有几分钟的地方，那么时钟可能出了问题。如今，世界或许被一种奇迹般的好运庇佑着，无人可知，但在屈从于在科学上饱受诟病的结论之前，我们至少应该考虑一下国际体系的系统特征起作用的可能性。许多反核的活动家憎恨这种思考方式，因为它似乎消弭了各国去核化的热忱。但由于9个有核国家不会在明天就消灭它们的武器，这让我们在此期间能够确认过去的正确做法，这样我们才能做更多这样的事情。
最重要的是，政治学家罗伯特·杰维斯概括的历史性发现指出：“苏联的档案尚未揭露任何对西欧进行无端侵略的严肃计划，更不用说针对美国的先发制人攻击。”[89]那就意味着，针对冷战期间核威慑而提出的复杂的武器和战略思想，也就是政治学家所谓的“核形而上学”阻止了苏联在一开始本就不打算发动的攻击。[90]当冷战结束，对于大规模入侵和先发制人核攻击的恐惧也随之淡化，（正如我们将看到的那样）双方都感觉到足够的放松，以至于可以大幅度减少武器的库存量，这甚至都无须正式的协商。[91]与技术至上论的观点（核武器本身挑起了战争）相反的是，风险很大程度上取决于国际关系的状态。大国之间没有发生核战争这一结果必须归功于战后大国之间的相互作用力（见第11章）。任何可以降低战争风险的因素都可以降低核战争的风险。
这种侥幸脱险或许也并非依赖于超自然的好运气。多位政治学家和历史学家在分析古巴导弹危机的文件（尤其是约翰·肯尼迪与其安全顾问会议的副本）之后指出，尽管参与者的记忆认为是他们将世界从世界末日大决战的边缘拉了回来，但实际上“当时美国卷入战争的概率几乎为零”。[92]记录表明赫鲁晓夫与肯尼迪牢牢控制着政府，都希望危机能有一个和平的终结，他们不理会挑衅，并且留了多个让步的选择。
令人毛骨悚然的错误警报和意外发射的冲突也并不意味着诸神在对我们微笑。它们或许反而表明，人类和技术的紧密联系能够预先阻止灾难的发生，并且这种联系在每一次灾祸之后都得到了加强。[93]在忧思科学家联盟关于核侥幸脱险的报告中，他们用耳目一新的智慧总结了这段历史：“至今并未发生核武器意外发射的事实表明，安全措施足以使事故发生的概率变小。但并非为零。”[94]
从这个角度思考我们的困境可以避免陷入慌乱和自满。假设灾难性的核战争在每一年爆发的可能性为1%。这是一个宽松的估算：意外发射的可能性肯定低于这个数值，因为从单一意外升级为全面战争绝大程度上不是自动的，并且在72年里意外发生的数量为零。[95]这肯定是一种无法承受的风险，因为一个简单的数学结论表明在一个世纪内，我们不会经历这样灾难的概率低于37%。但如果我们将每年发生核战争的概率降至千分之一，全世界在一个世纪内免受灾难的概率将会增加至90%；降至万分之一，概率会增加至99%，以此类推。
关于核扩散失控的恐惧也被证明是被夸大了。20世纪60年代的预测认为很快就会有25或30个国家拥有核武器，但50年过去了，数量依然是9。[96]在此50年间，4个国家（即南非、哈萨克斯坦、乌克兰和白俄罗斯）通过放弃核武器而实现了核不扩散，并且另外6个国家曾追求核武器，但在重新考虑后放弃了（最后两个放弃的国家是利比亚和伊朗）。这是自1946年以来，第一次没有无核国家开发核武器。[97]对核扩散保持冷静头脑不仅对一个人的心理健康有好处，它还能阻止各国无意中卷入灾难性的防御战争，例如2003年对伊拉克的入侵，以及在当时被传得沸沸扬扬的伊朗与美国或以色列之间可能会爆发的战争。
恐怖分子会偷走核武器，或在他们的车库里建造核武器并用行李箱或集装箱将它走私到别的国家，这些令人胆战心惊的推测同样也被更加冷静的头脑加以仔细审查，其中包括《论核恐怖主义》（On Nuclear Terrorism）的作者迈克尔·利瓦伊（Michael Levi）、《原子能痴迷》（Atomic Obsession）与《言过其实》（Overblown）的作者约翰·米勒、《未来总统的物理课》（Physics for Future Presidents）的作者理查德·穆勒（Richard Muller）以及《炸弹的曙光》（The Twilght of the Bombs）的作者理查德·罗德斯（Richard Rhodes）。后来国会议员加雷斯·埃文斯（Gareth Evans）加入了这个队伍，他是核扩散与核裁军方面的权威，于2015年在《原子能科学家公报》的末日时钟年度研讨会上发布了70周年纪念的主旨演讲，其演讲题目为《恢复核辩论的理性》（Restoring Reason to the Nuclear Debate）。
冒着被人认为是自鸣得意的风险，其实我没有，我不得不说，核同样可以造福人类，只要我们比过去常常出现的情况减少一些情绪化，增加一些冷静和理性。
尽管如何建造基本裂变装置（就像广岛或长崎炸弹）的专门技术已经唾手可得，但高浓缩铀和武器级别的钚并不容易获得、收集和维护。在很长一段时间里，它们存在于庞大的情报网和执法力量的视野之外，而如今这一全世界范围内的威胁已经受到了重点关注。犯罪分子、邪恶科学家和工程师的队伍必须获得这些组件才能建造和扩散核武器，而这将是极其困难的任务。[98]
既然我们都已经冷静了一些，那么在减少核威胁的积极日程里，下一步骤是除去核武器身上令人毛骨悚然的魅力，这种魅力从以武器作为明星的希腊悲剧开始就已经出现了。核武器技术并非人类所掌握的自然力量的最高点。这是我们由于历史变迁而陷入的混乱局面，现在我们必须找到让自己从中脱身的办法。
“曼哈顿计划”是由于对德国开发核武器的恐惧而创建的，它吸引科学家们的原因被曾在另一个战时研究项目工作过的心理学家乔治·米勒（George Miller）解释为：“我们这一代人将反对希特勒的战争视为正义对抗邪恶的战争，任何体格健全的年轻人都能忍受穿着便服上战场的遗憾，因为他们的内心确信，这样做将会为最终的胜利贡献更多的力量。”[99]如果没有纳粹，就不会有核武器，这是很有可能的。武器不会因为可以被想象或者可以实际创造出来就会存在。
各种各样的武器都曾被想象过，但有些从未见过天日，例如：死光、战星、像喷洒杀虫剂飞机一样向城市大批量投毒的飞机舰队以及“地球物理战”中破产的方案，包括将天气、洪水、地震、海啸、臭氧层、小行星、太阳耀斑、范艾伦辐射带当作武器。[100]在20世纪历史的另外一个平行世界里，核武器或许也会让人们感到同样奇怪。
核武器既不应该获得结束第二次世界大战的功劳，也不应该获得开启此后长期和平的功劳——这两种论断不断出现，提醒人们核武器是好东西而不是坏东西。如今，大部分历史学家相信日本之所以投降，不是因为原子弹爆炸——其破坏力并不比其他6座日本城市所受到的火焰炸弹的破坏力大，而是因为苏联加入了太平洋战争，这为他们带来了严苛投降条件的威胁。[101]
有人半开玩笑地说，这些核炸弹应该被授予诺贝尔和平奖，现实恰恰相反，核武器成为糟糕的威慑（在制止生存威胁的极端案例中除外，例如双方彼此威胁）。[102]核武器具有狂轰滥炸的破坏力，并且它所产生的放射性尘降物会污染大片区域，例如敌人的领土，并且根据天气情况，还有可能会污染扔炸弹一方的士兵和市民。焚烧大量非战斗人员会破坏战争中的区分原则和比例原则，从而造成历史上最恶劣的战争犯罪。这甚至会让政治家变得拘谨，因此围绕核武器的使用产生了禁忌，这能有效地把核武器变成纸老虎。[103]
有核国家在国际僵局中的进展并不比无核国家更有效率，并且在许多冲突中，无核国家或派系会选择与有核国家开战。例如，1982年，阿根廷从英国手中抢走了弗兰克群岛，他们确信玛格丽特·撒切尔不会将布宜诺斯艾利斯变为辐射的火山口。这并不是说威慑本身毫无意义：第二次世界大战证明了传统的坦克、大炮和轰炸机已经具有足够的大规模杀伤力，因而没有国家希望重蹈覆辙。[104]
核武器在很大程度上不能让世界放松而进入稳定的均衡（即所谓的恐惧平衡），但能让世界在刀锋上保持平衡。在一场危机中，核武器的状态就像全副武装的屋主面对着全副武装的窃贼，双方都想先开枪以免被射中。[105]理论上，如果双方都有第二次打击的能力，例如，潜水艇上的导弹或机载炸弹可以避开第一次打击而进行精准的报复，也就是所谓的“确保相互摧毁状态”（Mutual Assured Destruction, MAD），这种安全困境或者说霍布斯陷阱就能被解除。
但是，关于核意识形态的争论引发了一些质疑，即第二次打击是否能够在所有可以想象的场景里得到保证，并且依赖于第二次打击的国家是否在面对核讹诈时依然有可能会受到伤害。因此，美国和俄罗斯坚持了“预警时发射”的选择，在此选择中，领导获得的建议是其导弹在受到攻击时，他可以选择在接下来的数分钟内是否使用或发射它们。这种一触即发的状态，正如批评家所说的那样，可能会在遇到错误警报、遇到意外的或者非授权的发射时引发一场核冲突。令人不安的是，这种可能性大于零。
由于核武器本不需要被发明，并且在赢得战争或维持和平方面毫无用处，这就意味着它们可以不被发明，这并不是说懂得如何制造它们的知识会烟消云散，而是说它们可以被拆除，并且人们再也不用制造新的核武器。这并非有史以来第一次出现某个类别的武器被边缘化或报废的情况。世界各国已经禁用杀伤性地雷、集束弹药、化学和生物武器，并且人们还见证了其他许多当代的高科技武器由于自身的不合理而被销毁。在第一次世界大战期间，德国发明了一种庞大的、像多楼层那么高的“超级大炮”，它能把将近100千克的子弹射出100多千米开外，从而让巴黎人为毫无征兆从天而降的弹壳感到害怕。这种巨兽，也就是超级大炮中个头最大的被称作古斯塔夫炮，其实既不精准也不灵活，因此制造数量很少，并且最终被弃用。
核怀疑论者肯·贝里（Ken Berry）、帕特丽夏·刘易斯（Patricia Lewis）、伯努瓦·佩洛皮达斯（Benoît Pelopidas）、尼古拉·斯科夫（Nikolai Sokov）和沃德·威尔逊（Ward Wilson）指出：
如今各国不再争相制造属于自己的超级大炮……自由主义的论文不再愤愤不平地描述这些武器的恐怖之处以及禁止它们的必要性。在保守主义的论文中也不再有现实主义者的特稿，声称没有办法将超级大炮的妖魔鬼怪装回瓶子里。它们太浪费、太无效了。历史上充满了被吹捧成战争赢家的武器，但最终它们都因为用处不大而被摈弃。[106]
核武器也会走上古斯塔夫炮的老路吗？20世纪50年代末期兴起了一场禁用炸弹的运动，通过几十年的时间，它离开了为其奠定基础的“垮掉的一代”和奇异教授的圈子，进入了主流社会。如今所谓的“全球空白”目标是在1986年由戈尔巴乔夫和罗纳德·里根提出来的，他们的一番沉思举世有名：“核战争是一场不能打的仗，因为没有一个国家可以从中获胜。我们两国拥有核武器的唯一价值在于确保它们永远不被使用。但是，更好的办法难道不是永远地将它们处理掉吗？”
2007年，四位代表两个党派的防御现实主义者亨利·基辛格、乔治·舒尔茨（George Shultz）、山姆·那姆（Sam Nunn）及威廉·佩里（William Perry）写了一篇特稿，《没有核武器的世界》（A World Free of Nuclear Weapons），他们得到了其他14位前国家安全顾问、国务卿和国防部长的支持。[107] 2009年，巴拉克·奥巴马在布拉格发表了一场具有历史意义的演讲，他在演讲中指出“明显并且坚定地，美国致力于追求无核武器世界的和平与安全”，这一抱负帮助他赢得了诺贝尔和平奖。[108]时任俄罗斯总统德米特里·梅德韦杰夫也对此进行了呼应，尽管他们各自的继任者在这方面的行动很少。
然而，从某个角度来说，这样的宣言是多余的，因为美国和俄罗斯曾签署了《不扩散核武器条约》，已经在第六条款中承诺摈弃他们的核军火库。[109]同时做出承诺的还有英国、法国和中国，其他有核国家被条约赋予了不受约束的特权。在一份关于该条约的间接承诺书里，印度、巴基斯坦和以色列从未签字，而朝鲜选择了退出。全世界的公民都鼎力支持这场运动：在几乎所有接受调查的国家里，大部分人都赞成废止核武器。[110]
零是一个非常具有吸引力的数字，因为它将核禁忌的范围从使用武器扩展到拥有武器。它还能够消除国家拥有核武器以保护自己不受敌国核武器侵犯的动机。哪怕经过协商、减量和核查等一系列谨慎的程序，达到零的水平也并非易事。[111]部分战略家警告道，我们甚至不应该试图达到零的水平，因为在危机中，之前的有核大国或许会急忙重新武装，并且第一个完成的国家或许会由于担心对手先发制人而发起先发制人的攻击。[112]这种观点认为，如果让有核的前辈国家继续持有少数核武器以作威慑之用，世界的情况才有可能变得更好。无论是以上哪种情况，世界距离零核的状态都很远，甚至距离“少量”都很远。在那一个幸运的日子到来之前，或许会有越来越多的手段能会让这个日子更近，让世界更加安全。
其中最明显的手段就是缩减核武器库的规模，而它正在进行当中。很少有人意识到世界废除核武器的程度是多么猛烈。图19-1表明，美国已经将其武器库的数量从1967年的鼎盛阶段缩减了85%，而如今的核武器数量比1956年以来的任何时候都要少。[113]俄罗斯已经从苏联时代的鼎盛时期缩减了89%。或许更少人能够意识到，美国大约有10%的电量是来自拆除的核弹头，其中大部分来自苏联。[114] 2010年，美国和俄罗斯都签署了《新战略武器削减条约》（New Strategic Arms Reduction Treaty，简称“New START”），为此它们承诺将已部署的战略弹头的数量减少2/3。[115]为了换取国会对于条约的批准，奥巴马同意对美国军火库进行长期的现代化，并且俄罗斯也在进行军火库的现代化，但两个国家都将继续按比例缩减库存量，缩减数量或许将超过条约规定的数量。[116]
图19-1 核武器数量（1945—2015年）
资料来源：HumanProgress，数据基于the Federation of Atomic Scientists, Kristensen & Norris 2016a，更新于Kristensen 2016。图中数量包含已被部署的和库存中的武器数量，但未包含已退休或即将被销毁的数量。
图19-1中最上边比较模糊的一层代表除美国和俄罗斯外的其他有核国家。[117]正如我提过的那样，尚未得知其他国家在制造核武器，并且占有核弹原料的国家数量在过去25年间从50降为24。[118]
愤世嫉俗之辈或许不会因为世界存在10 200枚核弹头这样的进步而被打动，这是因为，正如20世纪80年代车尾贴上写的那样，“一个核弹就能毁掉你的一整天”。但地球上的核弹数量比1986年时减少了54 000枚，核弹意外毁掉人们一整天的概率大大降低，并且这为持续减核设立了先例。根据《新战略武器削减条约》的规定，更多的弹头将被削减，并且正如我之前提到的那样，在条约框架外的更多减核也会发生，这包含着许多法律协商的努力和各式各样的政治象征意义。
当超级大国之间的紧张气氛开始消退（这是一种长期的趋势，哪怕现在处于搁置状态），它们开始悄无声息地缩减昂贵的军火库。[119]甚至于在对手几乎不说话的时候，它们也能够在反军备竞赛中进行合作，使用的技巧被语言心理学家查尔斯·奥斯古德（Charles Osgood）称为“紧张局势缓和的循环回报”（Graduated Reciprocation in Tension-Reduction，简称GRIT），其中一方在公众的邀请下进行一个小的单边退让，这会换来投桃报李的效果。[120]假如某一天，这些进展联合起来让各国的军火库数量降为200，这不仅将大大降低意外发生的可能性，还能从本质上消除核冬季的可能性，核冬季才是真正存在的生存威胁。[121]
从近期来看，核战争的最大威胁很大程度上并不来源于已有武器的数量，而是来自它们或许会被付诸使用的环境。预警时发射或受攻击时发射的政策、一触即发的警报都是真正的梦魇。没有早期警报系统可以完全准确地分辨出信号与噪音的区别，在凌晨3点被手机铃声吵醒的总统只有几分钟时间来决定是否发射导弹，否则这些导弹就会被炸毁在弹筒里。从理论上来说，他可能会因为一次短路、一群海鸥或保加利亚青少年的一个恶意软件而发动第三次世界大战。从现实的角度来说，警报系统的功能要比这完善，在无人干预的情况下，并不会出现“一触即发”的自动发射。[122]但在导弹由于临时通知而被发射时，由于意外、欺诈而引起的错误警报的风险是真实存在的。
预警时发射的基本依据在于阻止能将导弹摧毁在弹筒里的、大规模先发制人的攻击，这会让国家无法还手。正如之前说过的那样，各国可以从隐藏在深水里的潜水艇发射武器，或者从轰炸机上发射，轰炸机可以紧急起飞，让武器不容易被先发制人地摧毁，并且随时准备进行精准的摧毁报复。进行报复的决定有可能是在冷静的时候做出的，那时不确定性已经过去：如果有一颗原子弹扔到你们的领土上，你就能理解这种情况。
那么，预警时发射对于威慑或不确定的危险而言，就没有必要了。大多数核安全分析家推荐，甚至是坚持认为有核国家应该取消导弹的一触即发警报，并且加上长长的保险丝。[123]奥巴马、那姆、舒尔茨、乔治·W.布什、罗伯特·麦克纳马拉及几位美国战略司令部的前司令、美国国家安全局的前主任都表示赞同。[124]部分人（例如威廉·佩里）建议摧毁核三位一体系统中的陆基支腿，并依赖于潜水艇和炸弹以作威慑，这是因为通过弹筒发射的导弹是容易诱发领导人在有可能情况下使用导弹的诱因。因此，在世界的命运危如累卵的时候，有谁会希望让导弹储存在弹筒里并一触即发呢？一些核形而上学者认为，在危机中，重新为去警报化的导弹装上警报将是一种挑衅。其他人则认为，由于基于弹筒的导弹更可靠、更精准，它们是很有价值的防卫措施，因为它们不仅能用于威慑战争，还能用于赢得战争。这为我们带来了另外一种降低核战争风险的途径。
任何有良心的人都很难相信他们的国家仅仅为了阻止核威慑而准备使用核武器。但是，这是美国、法国、俄罗斯和巴基斯坦的官方政策，这些国家都宣布自己或盟友在遭受非核武器的大规模攻击时，他们有可能会使用核武器。首先动用核武器的政策不仅违反战争的比例原则，而且还是危险的，因为无核的攻击者或许会尝试先发制人地将战争升级为核战争。即便攻击者不这样做，一旦它遭到了核攻击，它或许会用核攻击进行报复。
因此，降低核威胁的常识性办法是宣布采用不首先动用核武器的政策。[125]从理论上来说，这完全能够降低核战争的可能性：如果没有人最先动用核武器，那么核武器就永远不会被动用。从现实的角度来说，它能够消除先发制人的企图。拥有核武器的国家可以通过条约约定都不最先动用；他们可以通过GRIT来实现这一目标以及通过更多的承诺，例如永不攻击平民、永不攻击无核国家、永不攻击可以通过常规手段摧毁的目标；或者他们可以单方面地采用这样的政策，这符合他们的自身利益。[126]核禁忌已经降低了“或许最先动用核武器”政策的震慑价值，发表声明的一方仍可以用传统装备保护自己，也可以第二个动手，使用核武器以牙还牙。
不首先动用核武器似乎像是一件不费脑筋的事，2016年，奥巴马差一点就采用了这个政策，但最终在最后时刻被他的顾问们劝说放弃了。[127]他们说时机不对；这或许会向近来不守秩序的俄罗斯传递一种软弱的信号，并且这会吓到紧张的盟友。这些盟友现在依赖于美国的“核保护伞”，假如美国不首先动用核武器，他们就会转而追求自己的核武器，尤其是特朗普如今威胁要取消美国对联盟伙伴的支持。长期来看，这些紧张局势或许会消退，而不首先动用核武器的政策会被再次纳入考虑范围。
核武器不会在很短的时间内被废弃，并且肯定不会在“全球空白”运动的原定目标日期，即2030年被废弃。奥巴马在2009年于布拉格发表的演讲中指出，目标“不会很快达成，或许在我有生之年都不会”，这就将日期定到了2055年之后（见图5-1）。“目标的达成需要耐心和毅力。”他建议道。并且近来美国和俄罗斯的进展表明我们需要它们。
然而，道路已经铺就。如果核弹头被废弃的速度继续快过被制造的速度，如果一触即发的设置被取消并且大家都承诺不会首先动用核武器，如果避免国家之间战争的趋势还会继续，那么到21世纪下半叶，我们就能看到只剩下小型的安保型核军火库，它们只用于相互威慑。再过几十年，它们或许会让自己失去用武之地。到那时，在我们的子孙看来，它们变得很滑稽，我们的子孙就会永久地将它们改铸为犁头。在这条下坡路上，我们或许永远不能到达灾难发生可能性为零的点。但前进的每一步都能降低风险，直到这种风险变得像其他威胁我们生存的危险一样。
