远期（2070—2100）

有意识的机器

在系列电影《终结者》中，五角大楼骄傲地揭开“天网”（Skynet）的内幕，这是一个铺天盖地的极其坚固的计算机网络，设计用来忠实地控制美国的核武器库。它执行它的任务，直到1995年的一天发生了预想不到的事情。天网变得有意识了。天网的人类操作者震惊地发现他们的创造物突然有灵感了，试图将它关闭。但为时已晚。天网为了自我保护，决定保护它们自己的唯一办法是发动一场毁灭性的核战争消灭人类。30亿人立刻死于原子能的火海中。随后，天网以一个军团一个军团的速度释放出杀人的机器人屠杀残存者。现代文明被粉碎了，剩下一小群悲惨的不适应环境的人和反抗者。

更糟糕的是，在电影《黑客帝国三部曲》（Matrix Trilogy）中，人类是这样的愚昧，他们甚至认识不到机器已经取而代之。人类进行他们日常的工作，把一切看成正常的，忘记了他们实际上是生活在豆荚之中。他们的世界是他们的机器人主人管理的虚拟现实模拟。人类的“存在”仅仅是装在这些生活在豆荚中的人类大脑中的软件程序，由一个大型的计算机进行操作。机器需要这些人的唯一理由是要利用他们作为电池。

当然，好莱坞把观众吓得屁滚尿流是为了赚钱。但它也提出了一个合理的科学问题：当机器人最终变得和人一样聪明时会发生什么？当机器人醒来，有了意识会怎样？科学家们精力旺盛地辩论这些问题：还没呢，但这些重大事件终究将会发生。

按照一些专家的说法，我们创造的机器人将沿着进化树逐渐攀升。今天它们像蟑螂一样聪明。在将来就会像老鼠、兔子、狗和猫、猴子一样聪明，然后和它们的对手人类一样聪明。需要几十年缓慢地攀登，但是他们相信机器在智力上超过我们只是时间问题。

人工智能研究人员对于什么时候会发生这种情况的意见是有分歧的。有人说20年内机器人将达到人类的智力，然后把我们抛到尘埃之中。在1993年，弗诺·文奇（Vernor Vinge）说：“在30年内我们将有技术方法创造超人的智力。在此后不久，人类的时代将结束……这个事件不会在2005年前发生，也不会推迟到2030年之后。”

在另一方面，《哥德尔，埃舍尔，巴赫》（Gödel，Escher，Bach）的作者道格拉斯·霍夫斯塔特（Douglas Hofstadter）说：“如果在下一个100年到200年出现任何这种遥远的事情，我都会非常惊讶。”

麻省理工学院的马文·明斯基（Marvin Minsky）是在人工智能历史上的奠基者之一，当我与他谈话时，他很小心地告诉我，对于这个事件什么时候将会发生，他没有时间表。他相信这一天会来，但羞于成为预言者和预计精确的日期。（也许由于他是一位从一无所有帮助创建这个领域的重要的老人，也许是他看到了太多的预言最终都失败和受到强烈反对。）

这些猜想存在一个很大的问题是关于“意识”（consciousness）这个词汇没有一致的意见。哲学家和数学家就这个词汇争论了几个世纪，仍不能取得一致。17世纪的思想家、微积分发明人戈特弗里德·莱布尼茨（Gottfried Leibniz）曾经写道：“如果你能把大脑吹成磨盘那么大，并在里面到处走，你不会发现意识。”哲学家大卫·查默斯（David Chalmers）甚至将几乎20000篇有关这一题目的文章编目，意见都全不相同。

在科学上，没有一处是花了这么大的力气，却得到这样少的收获。

不幸的是，“意识”是一个玄妙的术语，它意味着对不同的人有不同的意义。遗憾的是，没有大家都能接受的这个术语的定义。

我个人认为，问题之一是不能明确定义意识，另一个问题是不能将它量化。

但是如果我冒昧地推测，我认为在理论上意识应至少由三个基本成分组成：

用这种方法，甚至简单的机器和昆虫都有某种形式的意识，其意识高低可以用数字1到10进行排队。这里有一个可以量化的意识的连续统一体。一个锤子不能感觉环境，因此它的意识等级为0。但是一个温度调节装置可以感觉环境。温度调节装置的作用是它能感觉环境温度，通过改变环境温度对环境产生影响，因此它意识等级为1。因此，具有反馈机制的机器有初步形式的意识。蠕虫也有这个能力。它们能够感觉食物、配偶、危险的存在，并根据这些信息行动，但别的做不了什么。昆虫能够检测的参数多于一个（如光线、声音、气味、压力等），应该有较高的排列等级，大约2或3。

这种感觉的最高形式应该是识别和理解周围环境中的物体的能力。人能够立刻估计环境的大小，并相应采取行动，因此在这个排列中理应排得最高。然而，这是机器人得分最低的地方。正如我们已经看到的，模式识别是人工智能发展的主要障碍。机器人能够比人更好地感觉环境，但是它们不能理解或认识它们看到的是什么。在意识的这个尺度上，机器人的得分最低，接近于昆虫，因为它们缺乏模式识别的能力。

下一个更高的意识级别是自我意识。如果放一个镜子靠近大多数雄性动物的旁边，它们将立刻暴跳如雷，甚至攻击这面镜子。镜子中的图像引起动物保卫它们的领地。很多动物没有它们是谁的意识。但是，猴子、大象、海豚和一些鸟类快速意识到镜子中的影像代表自己时，它们停止攻击镜子。在这个尺度上人类排得最高，因为在他们与其他动物、其他人和周围世界相处中，他们有高度发展的他们是谁的意识。此外，人还有自我意识，能默默地和自己说话，因此能够凭着思维对局势做出估计。

第三，可以根据动物为将来制定计划的能力排队。就我们所知，昆虫并不为将来设定详细的目标。大多数的昆虫是根据直觉和周围环境的直接线索，瞬间—瞬间地，对周围的直接境遇做出反应。

在这个意义上，捕食者比被捕食者更有意识。捕食者要事先计划、寻找隐藏的地方、计划埋伏、围捕、预计被捕食者的飞行路线。然而，被捕食者只是逃跑，因此在这个尺度上排得较低。

此外，灵长类在它们为即将发生的事情做计划时可以临时准备。如果它们看见一根香蕉，但伸手够不着，那么它们可以制定策略去抓这个香蕉，例如用一根棍子。因此，当灵长类面对特定目标时（抓食物），它们会对即将发生的事情制定计划去实现目标。

但是，总的说来，动物对遥远的过去和将来没有充分建立的意识。显然在动物的王国里没有明天。没有证据表明它们能够想到将来的日子。（动物会存储食物准备冬天，但这大部分是遗传的：它们外出寻找食物、对温度的突变的反应已由它们的基因编制了程序。）

然而，人有非常充分建立的对未来的意识，并且能连续制定计划。在我们的头脑中不断运行着对现实的模拟。事实上，我们预期的计划可以远远超出我们的生命跨度。实际上，我们能判断其他人的能力，预计形势的发展，制定正确的策略。领导阶层的一个主要任务是预计将来的局势、权衡可能的结果和相应设定具体的目标。

换句话说，这种形式的意识涉及预测将来，也就是说，产生多个模型去模拟将来的事件。这要求对常识和自然规律有非常周密的理解。它意味着你要不断地问自己“将会发生什么事情”。不管是计划抢银行，还是竞选总统，这种类型的计划意味着要能够在你的头脑里允许可能现实的多个模拟。

所有的指示都说明，在自然界中只有人掌握了这个艺术。

我们在分析受试者的心理状况时也看到这一点。心理学家通常比较成人的心理状况与他童年时的心理状况。然后会问一个问题：是什么品质造成他在婚姻、职业生涯、财富等方面的成功？除了社会经济因素之外，人们发现有一个特征有时突出在其他特征之上：不立刻表示满意。根据哥伦比亚大学沃尔特·米歇尔（Walter Mischel）和他人的长期研究，能够约束自己不立刻表示满意（例如吃一个给他们的果汁软糖）和能够拖延时间等待更好机会（得到两个果汁软糖，而不是一个）的孩子往往得分高，在将来的美国大学录取的标准化考试（SAT）、生活、爱情和职业生涯中容易成功。

但是能够不立即表示满意也与意识水平较高有关。这些孩子比较机灵，能够认识到将来的奖励会更大。因此能够预见我们行动将来的结果要求更高水平的意识。

因此，人工智能研究人员的目标应该是创造具有所有这三个特征的机器人。第一项很难达到，因为机器人能够感觉环境，但理解不了它的意义。自我意识比较容易取得。但计划将来要求有常识，能直觉地理解什么是可能的和达到特定目标的具体策略。

因此，我们看到常识是高级意识的前提。为了让机器人模拟现实和预测将来，它必须掌握有关周围世界的几百万条常识的规则。但是有了常识还不够。常识只是“游戏规则”，而不是策略和规划的规则。

根据这个尺度，我们可以将已经创造的各种机器人排队。

我们看到下棋机器“深蓝”排名最低。它能打败象棋世界冠军，但它不能做别的事情。它能够运行一个模拟的现实，但仅仅是针对下棋。它不能进行任何其他现实的模拟。世界上很多大型计算机都是这样的。它们模拟一个物体的现实时非常优秀，例如，模拟核爆炸、喷气式飞机周围气流的模式，或气候。这些计算机模拟现实比人还要好。但可怜的是，它们是一维的，因此在真实世界的生存中是没有用的。

今天，对于如何在机器人中复制所有这些过程，人工智能研究人员一无所措。大多数人举手投降，并且说巨大的计算机网络会有办法显示“突然出现的自然发生的现象”，就像有时本能地从混沌中产生秩序一样。当问到这些突然出现的自然发生的现象什么时候将产生意识时，大多数人哑口无言，两眼望天。

尽管我们不知道怎样创造有意识的机器人，但是我们能够想象当机器人比我们还先进时会是什么样子，以此为框架测量意识。

这些机器人在第三个特征上是胜过我们的：它们能够对将来进行复杂的模拟，远远超过我们，更全面、细致和深入。它们的模拟比我们更精确，因为它们更好地掌握了常识和自然的规律，因此能够更好地搜索模式。它们将能够预测我们忽略或未觉察的问题。此外，它们能够设定它们的目标。如果它们的目标包括帮助人类，那么万事皆好。但是，如果有一天，我们阻碍了它们制定的目标，就会有糟糕的结果。

但是这又产生了下一个问题：在这种情况下会发生什么事情呢？