14 超级人工智能不会统治世界，除非它们拥有文化

过去10年，机器学习能力和机器人技术取得了长足的进步。与此同时，还建立起各种各样庞大的数据库，它们配置了拥有惊人存储容量和前所未有的更快、更新潮的处理器。尽管如此，我们也不应该杞人忧天，担心人工智能会很快赶上和超越人类的理解力，并把人类变成它们的奴隶、玩具、宠物或傀儡。

因为人类得益于一个巨大的、目前也是自身特有的优势：逐渐积累的文化实践和创新。这些无形的实践和创新数量巨大，它们能够把外界事物加工成人类大脑可接收的信息形式。在缓慢的生物进化中，人的意识里遗留着非常多的原始偏见，特别是针对社会活动、娱乐和探索的偏见，逐步积累的社会生活实践对修正人类意识中的认知缺陷有着深刻的影响。所以，大量积累的实践认知与创新活动相辅相成，逐步提高了人类的理解能力。

我们通过有目的的设计活动，持续不断地构建起一个人工的生活环境，通过让自己沉浸其中，我们得以重建和改进了自身的意识。比如，在这个环境中，我们缔造了教育系统，并把它划分成运动、艺术和科学3大领域。这些环境是特意围绕人类设计的，它们“了解”我们需要什么，就如同我们能够理解它们想表达什么。作为一个物种，我们一次又一次、一代又一代地完善它们。“小步式”地逐渐修缮，而不是彻底推倒重来，这提升了人类的力量、记忆能力、运动能力，甚至认知学习能力——人类心智中最后形成但最为关键的元素。

概括一下，如果牛津大学心理学家塞西莉亚·海斯（Cecilia Heyes）的观点正确的话，人类许多文化传递的能力本身就是文化创新，它们通过社会交流的相互影响而获得，而不是直接来自生物的适应性。换句话说，文化有自我复制的机制，它把人类的思想像滚雪球一样传递下去。

为什么这意味着我们无须担心超级人工智能很快出现呢？原因就是人工智能如果想控制人类，必须拥有4种东西：设计良好的电子电路，巨量的数据，完美的学习算法，以及雄心。通过电路，保证完美的学习算法（需要多元的、活跃的、主动搜寻信息的系统）能够处理巨量的可用数据，从而使人工智能像人类那样理解世界，仅有这些还不够，人工智能还需要在理解世界的基础上，自发产生对人类的统治雄心。每一块电路显然都需要量身定制成具有特殊原始偏见、驱动机制和行动能力的独立个体。如果高级认知功能来自非常缓慢的进步积累，它是身体、大脑、思想意识和大量千变万化的文化实践共同促成的，那么我们就不需要担心人工智能的威胁。目前，世界上还没有什么人工智能机器能够得到这种进化的阶梯。

现在，深度学习算法正向我们展示人工智能的神经网络如何以一种前所未有的方式进行大规模学习。但是，如果想从推动机器运转的大型数据库中选出真正的超级智能的话，除了深度学习，还需要“深层文化”。

那就意味着，人工智能需要经过文化实践的逐步洗礼，这些文化实践还要和机器自身的运作、交流能力精密结合，并且要与机器自身的意识和微环境相匹配。人类的理解能力就是这样逐步提高的，人工智能系统还远远不能效仿。