12 我们有生之年还能看到“奇点”吗？

生活中可抱怨的东西实在太多，以至于我总担心人们忽视其中的美好，情愿早早拂袖而去。

在苦寒而寂寥的宇宙中，地球如太空船一样，既提供给养又保护着人类免受伤害。它满载重要而有限的水、食物和燃料等资源；它的大气层为我们保暖，还屏蔽了有害的太阳紫外线辐射；它的磁场庇护我们免受致命的宇宙射线的伤害。毫无疑问，任何一个有责任心的船长，首要的任务就是保护这艘船只的未来存续，要避免小行星的撞击、自载负荷的爆炸、星体过热、臭氧层的破坏，还要避免船载供应的过快消耗。然而，我们这些船员尚未把其中任何一个问题置于优先考虑之列，投入资金（据我估计）不足其资源的百万分之一。事实上，我们这艘太空船甚至都没有一位船长！

很多人责怪生活太沉闷，一如我们所了解的那样。他们主张，既然环境正在改变，人类也要随之而变：我们需要技术性地武装起来，或许用智能手机、智能眼镜、大脑植入体，并最终与超级智能计算机连接在一起。对这种超前的生活理念，你是无限憧憬还是疑虑重重呢？这很可能取决于周围的环境，尤其是你把未来的生命（“武装”过的人类）看作是人类的继承者还是反叛者。

如果父母有一个比他们聪明的孩子，从他们那里接受教育，然后到广阔的天地里去实现父母只能梦想的事情，他们一定会感到高兴和自豪，即便他们知道自己未必能活着看到所有这一切。我们是否认为那些未来的生命是人类的后代呢？是否认为他们是人类价值观的继承人呢？这会直接影响他们是否保留我们最珍视的目标。

另一个关键因素在于，这种过渡（过程）将是缓慢的还是突然的。我认为，即使人们主观上想让进化停止，也很难实现；在过往漫长的岁月中，人类向更加智慧、更有适应性的方向大踏步迈进，这个过程中人类甚至还美化了身体的外观。在另一方面，让孩子秉承父母的梦想，还是去追逐他们自己的目标呢？父母本身也是非常矛盾的。显然，如果先进的未来技术不是迅疾地替换我们，而是帮助人类渐进地适应和提高，并最终让我们在其中如鱼得水，那么这或许既能满足传承和渐进主义的要求，又能让我们与晚辈一起认同高科技的生活方式。

那么，什么会真正发生呢？这才是我们着实要担心的事情。工业革命带来了比我们更强大的机器，信息革命带来了比我们更聪明的机器。在2006年的国际象棋比赛中，在2011年美国智力竞答节目《危险边缘》（Jeopardy）中，以及在2012年的汽车赛（在判定其比人类更安全后，内达华州给一台计算机颁发了驾驶执照）中，机器都击败了我们。计算机会发展出超人的智慧，并最终在所有事务上打败人类吗？

我毫不怀疑这些将要发生：我们的大脑是一束遵守物理定律的粒子，而没有物理定律能限制粒子为实现更高级计算而改变排列的方式。但是，它会很快出现吗？很多专家表示怀疑，而以谷歌工程总监雷·库兹韦尔（Ray Kurzweil）为代表的专家则预言2030年就能实现。无论如何，我想有一点是相当清楚的：一旦它们出现，影响就是爆炸性的。正如已故的牛津大学数学家古德（I.J.Good）在1965年的论文《关于第一台超级智能机器的推测》（Speculations Concerning the First Ultraintelligent Machine）中就意识到的那样，具有超人智能的机器可以很快设计出比它们自己还优秀的机器。1993年，数学家兼科幻小说家弗诺·文奇（Vernor Vinge）把这场智能爆炸称作“奇点”（Singularity），他主张在这“点”之后，我们不再可能作出可靠的预言。一旦到达这个点，地球上的生命，无论客观上还是主观上，再也不会跟从前一样了。

客观地讲，无论是谁或什么控制了这项技术，都将迅速成为这个世界上最富有也最强大的实体存在。它将会智胜所有的金融市场，让所有人类研究员的发明和专利活动都望尘莫及，并且它能操控所有人类的领导者。即使人类与这些机器联合，也会遭到它们的嫌弃，因为我们很难达到相同的效率，这会让它们感觉自己被剥削了。

主观上讲，这些机器未必像我们一样去感受。它们感受到了什么呢？我相信，当信息接受处理时，意识是它们的感知方式。因此，我认为这很有可能，它们不能仅仅被视为无生命的机器，而应该被看作像我们一样有意识的存在。不过，这种意识在主观感觉上与我们的大不相同。

比如，它们可能不会像人类那样恐惧死亡。（只要一直备份着自己，它们所失去的仅仅是最近一次备份后的存储。）在不同的人工智能之间轻易复制信息和软件的能力，可能会降低强烈的个体意识，进而减少人类意识的特征：如果人类能够随意地复制记忆和能力，那么你我之间也就没有什么区别了。所以，那些临近的人工智能，可能在感觉上就像是同一个蜂巢式思维的单一有机体。

综上所述，在我们的一生中会出现“奇点”吗？这是一些我们能够去支持或者反对的东西吗？一方面，它可以解决我们大多数的问题，甚至是死亡。它也可以开发太空，突破人类的极限。解除了人类身体上的限制，这些高等生物最终将能涉足那些我们现在只能用工具观测的宇宙。另一方面，它也可以摧毁生命和我们在乎的一切。

我们在这两点问题上都没有达成共识，但那并不意味着对此事置之不理是明智的。这可能是我们生命中将会发生的最好的或者最坏的事。所以，哪怕生命中出现“奇点”的概率只有1%，合理的预防措施就是至少投入GDP的1%来研究并决定如何应对它。然而，尽管我们可以明显地感觉到生活正在发生改变，人们却在很大程度上忽略它，并且奇怪地沾沾自喜。显然，我们应该担心的正是那些我们不担心的事。