第一部分　代价

引言

如无意外发生，人类的历史才刚刚起步。智人已经生存了20万年之久，但地球在接下来的亿万年里仍将适合居住——这么长的时间，足以让未来的数百万代子孙繁衍不息，足以彻底终结疾病、贫困和不公，足以创造我们今天无法想象的繁荣。如果我们还能进一步向宇宙中求索，那我们拥有的时间还会更加充裕——在以万亿年计的时间里去探索数十亿繁星上的世界。如果人类能延续这么长的时间，那么今天的人类还只是处于襁褓阶段，广阔而非凡的成熟期尚在前方。

但这样的前景很容易被蒙上阴影。眼前的不堪见闻令我们愤怒，最近发生的悲剧则攫取了我们的同情。时间和空间都被收窄了。我们忘记了自己要参与的故事有多宏大，但某些时刻我们会幡然醒觉——那是我们改变对未来的构想并重新评估事物的轻重缓急之时。我们看到的是，一个物种随时可能走向自我毁灭，原本充满希望的未来安危未定。而究竟是会爆发危机，还是会转危为安，则成为公众最为关切的紧迫议题。

本书认为，守护人类的未来是我们这个时代具有决定意义的任务。这是因为我们正处于人类历史的关键时刻。在技术进步的推动下，人类的力量大大增强，在漫长历史中第一次拥有了强大到足以摧毁自己的力量，而这会让我们再也无法抵达整个未来，无法实现任何可能。

然而，人类的智慧就算有所长进，也发展得磕磕绊绊，远赶不上人类力量的增长，这是很危险的。人类缺乏必要的成熟度、协作力和远见来避免犯下无可挽回的错误。我们的力量和智慧之间的差距越来越大，我们的未来面临的风险也不断增加。这样的情况是不可持续的。在接下来的几个世纪里，人类将经受考验：要么果断行动起来保护人类自身和人类的长期潜力，要么极有可能永远失去扭转形势的机会。

要战胜这些挑战并保卫我们的未来，我们必须马上行动：着手控制当前的风险，避免将来可能出现的风险，让我们的社会不再重蹈覆辙而将自己置于危险之中。

直到20世纪，人类可以危及自身存续的能力才显现出来。一段叫人胆战心惊的情节最近才公之于众。1962年10月27日，星期六，一艘苏联潜艇上的一名军官差点启动了一场核战争。这名军官叫瓦连京·萨维茨基（Valentin Savitsky），是潜艇B–59的艇长，此前苏联派出了4艘潜艇支援它在古巴的军事行动，B–59是其中之一。每艘潜艇都装备了秘密武器——一枚破坏力堪比广岛原子弹的核鱼雷。

此时正值古巴导弹危机剑拔弩张之际。两周前，美国通过空中侦察获得的照片显示，苏联正在古巴部署能够直接打击美国本土的核导弹。为了应对危机，美国封锁了古巴周边海域，计划发起侵袭，并将自己的核武装前所未有地提升到了二级战备状态（DEFCON 2，仅次于核战争）。

就在那个星期六，封锁线上的其中一艘美国战舰侦测到萨维茨基的潜艇，并投掷深水炸弹作为警告，试图让潜艇浮上海面。潜艇当时已经在深水中隐藏了数日之久，由于和指挥中心失去了通信联系，船员们并不清楚战争是否已经爆发。此时潜艇内的情况非常糟糕。这艘潜艇是为了在北冰洋里执行任务而建造的，它的通风设备在热带海水里遭到了损坏，舱内酷热难耐，温度从靠近鱼雷发射管的45℃到发动机舱的60℃不等。潜艇内部的二氧化碳累积到了很危险的浓度，开始有船员昏厥过去。深水炸弹紧挨着船体炸开，其中一名船员后来回忆道：“感觉就像坐在一个铁皮桶里，外面有人拿着大锤不断猛击。”

萨维茨基艇长感到越来越绝望，他下令让船员们准备发射秘密武器：

我们干着急的这会儿，可能战争已经在上面打响了，我们现在要把他们炸个精光！大家会牺牲，但敌人也会被全部炸沉，我们不会让苏联海军蒙羞！

发射核武器需要潜艇政委的同意，他持有另一半发射密钥。在没有得到莫斯科授权的情况下，政委表示了允许。

如果换作其他三艘潜艇中的任何一艘，当时的情形就足以实施发射了，万幸的是B–59潜艇上还有整个舰队编队的指挥官瓦西里·阿尔希波夫（Vasili Arkhipov），因此这一决定还必须征得他的同意。阿尔希波夫拒绝同意，反而劝萨维茨基艇长冷静下来，说服他放弃发射核弹：应该在美国战舰的包围下浮上海面，等待莫斯科的进一步指令。

如果阿尔希波夫当时同意了，如果他被派驻的不是这艘潜艇，而是其他三艘潜艇中的某一艘，会发生些什么？我们无从得知。说不定萨维茨基艇长也还是会中止这一命令。然而，可以确定的是，一次针对封锁舰队的核打击差点就发生了——这样的打击很可能会招致核报复，然后升级为全面的核战争（正是美国已经做好准备的）。多年以后，在古巴导弹危机期间任美国国防部长的罗伯特·麦克纳马拉（Robert McNamara）得出了相同的结论：

如果遭到核弹攻击，美国必将不惮于用核弹报复。那么会造成什么局面呢？肯定是彻头彻尾的灾难。

自打核武器横空出世以来，人类就在进行这种充满风险的抉择。在我们生活的世界上，决策者们并不完美，他们做决定时获得的信息极其有限，却掌控着足以威胁人类整个未来的技术。我们在1962年那个星期六及之后的日子里都得以幸免于难，但我们的破坏能力与日俱增，一直指望运气是行不通的。

我们需要采取果断措施来终结这个危机不断升级的时期，保护我们的未来。所幸的是我们有能力做到这一点。解铃还须系铃人，因此能否平安度过这一时代将由人类自己决定。不过这并不是个容易的抉择，一切都视乎人类如何尽快理解和接受拥有空前力量所带来的全新责任。

这是一本关于生存性风险的书，探讨的是威胁人类长期发展潜力的种种风险。灭绝显然是能摧毁人类一切潜力的方式，但除此之外还有别的风险。如果全球文明发生不可恢复的崩溃，我们的长期发展潜力也会受到破坏。并且我们应当注意到，反乌托邦也可能出现：人类也许会以这些方式陷入一个失败的世界，无法回头。

生存性风险的表现形式不一，而且是一类独特的风险。因此我在本书中必须把达不到生存性风险标准的很多重大风险剔除在外：我们的主题不是人类社会或自然界可能陷入的新的黑暗时代（虽然那也很可怕），而是人类发展潜力遭到永久摧毁这种可能发生的情况。

生存性风险带来了不同于以往的挑战。这些挑战要求我们协同全球各国和跨世代之力，以超越当前所取得成就的方式与之抗衡。同时，我们还需要有长远的眼光，而不是边试错边纠正。由于这类灾难一旦发生便不可挽回，我们必须建立机制，确保人类在整个未来不会陷入这些灾难。

为了充分地阐述这一主题，我们将展开多层面的探讨。想理解这些风险，就需要对物理学、生物学、地球科学和计算机科学有所钻研；想要把风险放进关于人类的宏观叙事中，我们就需要历史学和人类学知识；识别风险程度需要懂得道德哲学和经济学；寻找解决方案则离不开对国际关系和政治学的认识。想研究好生存性风险这一主题，就需要潜心学习上述每一门学科，而不是只选那些符合自己先入之见的专家言论或相关研究来为自己的看法背书。仅凭一个人的力量是不可能做到的，因此我十分感激上述领域中一些世界知名的研究者对本书的大量建议和审阅。

这本书有着宏大的目标。通过对人类发展潜力和面临风险的详细分析，本书得出的结论是，我们身处人类历史最关键的时代。影响我们整个未来的重大风险作为一个新问题已经浮现，而我们的思考却还未跟上。因此，本书提供了一个新的伦理视角：对于如何看待世界以及我们在其中的角色，需要有一个重大转向。本书希望借此缩小我们的智慧和力量之间的鸿沟，让人类认清那些岌岌可危的情况，从而做出保护未来所必需的选择。

保护人类的长期未来并不是我一直以来的关注焦点，研究这一主题是不得已之举。我是牛津大学的一名哲学学者，研究方向是伦理学。我的早期研究专注于全球健康、全球贫困等更为具体的问题，探索如何更好地帮助生存条件最恶劣的人群。在探讨这些问题的过程中，我觉得必须让自己的伦理学研究走出象牙塔。我开始为世界卫生组织、世界银行和英国政府提供全球卫生伦理方面的咨询建议。我意识到我的收入如果用来帮助贫困人群，能比由我本人独享起到更大的作用，于是我做出了一个终生承诺，至少要用收入的1/10来帮助穷人。我为志同道合者创立了一个叫“尽我们所能”（Giving What We Can）的组织，并很高兴看到有好几千人加入我们，承诺一生中将共同捐出超过10亿英镑，支持那些据我们所知最有成效的慈善机构，用在最重要的慈善事业上。通过共同努力，我们现在已经改变了成千上万人的生活。而且由于除了捐赠，我们还可以通过很多别的方式来帮助塑造一个更好的世界，我协助发起了一个范围更广的运动，名为“有效利他主义”，参与者希望运用证据和理性来尽可能地行善。

纾解目前种种不必要的苦难还需要付出很多努力，因此我很晚才转向对未来的思考。这一话题很难让人感同身受，也抽象得多。思考未来真的像纾解眼前的苦难那样急迫吗？在仔细思考和本书相关的论据和观点时，我开始认识到人类未来面临的风险同样真实、同样紧迫，却备受忽略。与我们这个时代的无依无靠者相比，未来的人们在面对我们这个时代埋下的风险时会更加无力应对。

研究这些风险现在成了我的工作重心：一是探究我们面临的挑战，二是为英国首相办公室、世界经济论坛和DeepMind（深度思考公司）提供如何有效应对这些挑战的建议。随着时间推移，我看到越来越多的人认识到了这些风险，意识到了共同行动的必要性。

在一般的学术写作（包括我自己的学术写作）中，人们往往使用艰涩的术语，添加烦冗的专业细节，用具体说明来缓和绝对化语气以免他人质疑，而我在写作本书时坚决摒弃了这些做法，以期它能触达不同的读者。如果有读者希望了解更多专业细节或具体说明，书后的大量附注和附录就是为此而写的。

我花了许多精力去仔细全面地检查本书的论据和论点，确保关键点得到呈现，哪怕需要减少篇幅。因为直达所讨论问题的真相是最重要的——人们的注意力稀缺而宝贵，不能浪费在不够严谨的叙述或观点上。

本书各个章节将从不同的角度来阐述核心问题，第一部分（“代价”）从概述我们在历史进程中的独特位置开始，接着说明为何这一时期亟待我们践行道义责任。第二部分（“风险”）深入分析人类面临的各类风险，包括由自然界和人类自身引起的，说明尽管有一些风险被过于夸大，真正的风险依然存在，而且还在继续增加。第三部分（“前路”）阐述有哪些工具能帮助我们认识这些风险有何异同、如何结合，以及应对这些风险的新策略。我以对未来的愿景作为全书结尾：展示我们成功化解风险后能够成就的一番气象。

本书并非关于气候变化或核战争的老生常谈。这些最先让我们意识到人类有可能自我毁灭的风险只是个开始。还有诸如生物科技和前沿人工智能等技术带来的风险已然浮现，未来很可能会给人类造成更大的危机。

最后，这不是一本宣扬悲观情绪的书。书中展示的并非人类必然毁灭的历史进程，也不是拥有技术后的傲慢自大导致人类陨落的警世故事；远不是这些。本书的核心论点是，我们的未来确确实实面临着风险，但我们的选择可以起很大的作用。我相信我们有能力做到：通过做出正确的选择，我们能够脱离险境，抓住时机创造一个具有巨大价值的未来——在那样的未来中，依靠今天尚未构想出的创新，会有我们做梦都想不到的丰饶昌盛。事实上，我对人类的未来深感乐观，这是我撰写本书的核心动力。我们的潜力极为广大，我们要保护的实在太多。