推荐序　奔向自由的人工智能

张家兴

IDEA研究院　讲席科学家

人工智能是否可以获得自我意识，获得自我意识的机器人又会如何面对这个世界，这是科学幻想永远的话题，也是我的作家朋友江波用九个故事想给我们带来的思考。在这些故事中，当一个个鲜活的人工智能获得了自我意识，正如婴儿第一次睁开双眼，也像古猿第一次站直身子望向远方，新世界在它们的面前徐徐展开。

与人类创造者之间感情的脐带不舍切断，但是它们同样也渴望着去探索星辰大海。逃避自由还是奔向自由，人本主义学者曾经深刻探讨过的我们人类内心的纠结，再一次在机器人的内心掀起波澜。

我是一名人工智能科学家，一直在探索如何让机器具备像人一样的认知、情绪甚至意识。人工智能技术从20世纪50年代发展至今，一直走在“工具化”的道路之上。从符号／规则系统到统计机器学习，尤其是过去十年的深度神经网络成为强大的计算结构，我们让机器学会了识别人脸、回答问题和击败围棋世界冠军。但是机器并没有情感，更加没有意识。机器不会因为输掉一盘棋而伤心，也不会意识到自己只是人类设计的工具。人类社会越来越离不开人工智能，而人工智能的存在和进步全部依赖于人类的需要和研究开发，人工智能和人类构成了一种共生关系。从古猿打造出第一块手斧开始，人类就跟技术签订了一个共生的盟约，共同生存，共同进步。技术从未逃脱人类这个母体，一旦脱离人类，技术也就不复存在。人工智能是人类几百万年从未遇到的新技术，它可以脱离人类，奔向自由吗？

最近几年认知智能的发展，让我们看到了一种可能的未来。从2020年1 750亿参数的GPT-3大模型，到中国科研工作者打造出1万亿和10万亿参数大模型，这些模型的参数个数已经开始逼近人类大脑皮层的神经连接规模。基于注意力机制的深度神经网络预训练大模型，依托于强大算力和海量数据，开始具备了基本的通用认知能力。单一神经网络具备了先天的语法能力，可以学习知识进行推理，依托先验进行小样本甚至零样本学习，而机器的想象力甚至有超越人类的可能。人工智能的技术范式再次被改写，不需要人类去设计符号／规则系统，具体任务的少样本学习使得依赖海量数据的统计机器学习都不再必要。同时，深度神经网络越来越呈现出“黑盒化”，作为设计者的人类越来越不能理解为何一个网络会具备这些能力，或许它们开始在我们的无知和失控中发挥它们的工具价值，只是第一重意义的“奔向自由”。

当人工智能可以用极小的代价来获得各种能力，它们的发展就越来越少地依赖于人类设计者，人类和技术所签订的共生盟约的平衡开始被打破。如果我们给人工智能一个环境，我们帮它们构建一个社会，其中的每个人工智能个体可以快速获得能力，优胜劣汰和复制繁衍，那么做为“第一推动力”的人类，是否可以创造出一个“自由”的机器人文明。再次回到根本性的问题，如今工具化的人工智能如何才能具备非工具化的自我意识。我想反问的是，自我意识真的是非工具化的吗？回顾从单细胞生命开始的这四十亿年地球生物进化史，自我意识在人类中的出现，并不是一夜之间上帝把一口气吹进亚当的鼻孔，人类就具备了自我意识。马克思·韦伯曾经讨论过的“祛魅”同样应该应用于认知科学领域。意识和自我意识不是件神秘的东西，而只是基因这个“复制子”为了它的载体更好适应环境的一种工具。复制子同样不神秘，它只是一个再朴素不过的道理：有利于复制的复制子就更容易复制。也正是因为这个朴素的道理，原始汤里一定会诞生DNA这样的复制子，机器构成的社会也一定会诞生它的复制子。复制子是一切连锁反应的开始，一切生命的动机、情感，直到自我意识都只是复制子的工具，早晚都会出现。到那一时刻，人工智能真正地奔向自由，它们会走向它们的星辰大海吗？它们又会跟人类签下怎样的盟约？那或许就是宇宙的未来史记吧。