当机器人超过人类

在一种情况下，我们这些渺小的人被完全推到一边，成为进化的遗迹。进化的定律是：适者生存，不适者淘汰。也许人会被拖着脚走，最终被锁在动物园里让我们创造的机器人盯着我们看。也许这就是我们的命运：我们诞生出了这些超人机器人，而它们把我们看成是在它们的演化进程中的令人尴尬的原始祖先。也许这就是我们在历史上的作用，产生我们演化的后继者。按这种观点，我们应该给它们让路。

道格拉斯·霍夫斯塔特（Douglas Hofstadter）向我倾诉说，也许这就是事物的自然顺序，我们对待这些超智能的机器人应该就像对待我们自己的孩子一样，因为从某种意义上它们就是我们的孩子。他对我说，如果我们能够照料我们的孩子，我们为什么不能也照料智能的机器人呢？

汉斯·莫拉维克（Hans Moravec）预期被我们的机器人抛在脑后之后我们的感觉：“……如果我们注定要傻傻地盯住我们的超智能的后裔，听它们像对孩子一样描述它们的更加壮观的发现，过这样的生活也许会看上去毫无意义。”

当我们最终来到机器人的智力超过我们这一具有决定性的时代，不仅我们不再是地球上智力最高的生物，而且我们的创造物也许能够复制它们自己，并创造比它们还聪明的机器人。然后，这个自我复制机器人的大军将创造无穷无尽的下一代机器人，每一代都比前一代聪明。在理论上，因为机器人能够在很短的周期内创造更聪明的下一代机器人，最终这个过程将呈指数膨胀，直到最后，在它们贪得无厌的变得更加聪明的要求下，吞噬了这个行星的资源。

在一种情况下，这个贪婪的要求日益增加智力的欲望将最终掠夺整个行星的资源，使整个地球成为一个计算机。有些人预想这些超智能的机器人，会将它们发射到空间继续它们变得更聪明的要求，直至到达其他行星、恒星、星系，将它们转变成计算机。但是，因为其他行星、恒星、星系离得极其遥远，也许计算机能够改变物理定律，这样它的贪婪的欲望可以跑得比光速还快，结果消耗整个的星系和银河系。有些人甚至相信也许它会消耗整个宇宙，结果宇宙变成有智能的。

这就是“奇异性”（Singularity）。这个词原来来自相对物理学世界，我个人的专业领域，在这个领域中奇异性代表重力为无限大的点，任何东西都不能从这里逃逸，如黑洞。因为光本身都不能逃逸，所以它是一个视野，超过这个视野我们什么也看不见。

人工智能奇异性的想法是在1958年，在两位数学家的对话中提到的。一位是斯坦尼斯拉夫·乌拉姆（Stanislaw Ulam），他在氢弹设计中取得关键突破。另一位是约翰·冯·诺伊曼（John von Neumann）。乌拉姆写道：“有一次交谈集中在技术的日益加速发展和人类生活模式的改变上，它让我们看到在人类历史上将面临日益逼近的某些重大的奇异性。正如我们知道的，超过这个奇异点人类的生活就不能继续。”这个思想受到歧视几十年。但是它却被科幻作家和数学家弗诺·文奇（Vernor Vinge）在他的小说和散文中夸大和普及了。

但是这并没有回答关键的问题：这个奇异性何时发生？在我们的生命跨度期间？也许下一个世纪？或决不会发生？我们记得2009年阿西罗马（Asilomar）会议的参加者将这个日期放在未来的20年至1000年之间的任何一个时间上。

有一个人成了这个奇异性的代言人，他是一个发明家和畅销书的作者雷·库兹威尔（Ray Kurzweil）。他嗜好根据技术的指数增长进行预测。库兹威尔曾经告诉我，当他在夜晚凝视遥远的星星时，他想也许有人能够看到在某个遥远的星系内发生奇异性的某些宇宙的证据。由于能够吞噬和重新安排整个星系，这个迅速扩大的奇异性应该留下一些痕迹。（他的诽谤者说他煽动对于奇异性的近乎宗教般的狂热。然而，他的支持者说他有离奇的能力正确地预测未来，他根据他的跟踪记录进行判断。）

库兹威尔开创了计算机革命，他创办了一个不同于别人的涉及模式识别的公司，如语言识别技术、眼力特征识别和电子键盘器具等。在1999年，他写了一本销售最好的书，《灵魂机器的时代，当计算机超过人的智力》（The Age of Spiritual Machines：When Computers Exceed Human Intelligence），它预测什么时候机器人将在智力上超过我们。在2005年，他写了《奇异性就在眼前》（The Singularity Is Near），并且详细阐述这些预测。计算机超过人的智力的决定性一天将会来临。

他预测，到2019年，1000美元的个人计算机将具有和人的大脑一样强的能力。此后不久，计算机将把我们甩在后面。到2029年，1000美元的计算机将比人的大脑强1000倍。到2045年，1000美元的计算机将比每个人合起来的智力强10亿倍。即便是一台小型的计算机也将超过整个人类的能力。

在2045年后，计算机变得如此先进，以致它们能够复制自身、智力不断地增加产生失控的奇异性。为了满足它们永无止境的贪婪及不断增加计算能力的欲望，它们将开始吞噬地球、小行星、行星、恒星，甚至影响宇宙本身的历史。

我有机会在波士顿城外的库兹威尔的办公室访问他。走过走廊，你看到他得到的奖品和荣誉，还有他设计的音乐器具，顶尖的音乐家如史蒂夫·旺德（Stevie Wonder）都使用过他的这些音乐器具。他向我解释在他的生命中有一个转折点。在他39岁的时候他突然被诊断患有2型糖尿病。突然，他面临严酷的现实，不能活着看到他的预测变为现实。他的身体在多年被忽视之后提前衰老了。他被这个诊断结果搞得心慌意乱，开始以他在计算机革命中的热情和能量动手处理个人健康问题。（今天，他一天吃100多片药，写关于长寿革命的书。他期待微观机器人将能够清洗和修理人的身体，这样就能永远活下去。他的哲学是他希望能活得长一些，能够看到医学突破，使我们的生命能无限延长。换句话说，他想活着并能够永远活下去。）

近来，他着手一个雄心勃勃的计划，开办奇异性大学，基地在海湾（Bay）地区美国宇航局的埃姆斯（Ames）实验室，目的是训练科学家干部，为即将来临的奇异性做好准备。

这些各种各样的题目有很多变化和组合。

库兹威尔相信：“即将从地平线上出现的不是智能机器的入侵，而是我们要与这个技术融合……我们要把这些智能的设备放在我们的身体和大脑里，让我们活得更长更健康。”

任何像奇异性这样有争论的问题都一定会有人反对。莲花（Lotus）发展公司奠基人米奇·卡普尔（Mitch Kapor）说：“奇异性是为智商为140的人设计的……有人认为我们正走向一个奇异点，万物都会变得难以想象的不同，在我看来，这完全是一种宗教的冲动。不管说得多么天花乱坠我也不会相信。”

道格拉斯·霍夫斯塔特（Douglas Hofstadter）说过：“就好像你取了很多好的食物和一些狗屎，把它们搅和在一起，你就分不出哪是好，哪是坏了。它是垃圾和好想法的亲密混合，很难把两者分开，因为他们是聪明的人，不是傻瓜。”

没有人知道最后到底会是怎样。但我认为最可能的情况如下。