陈嘉映：我不担心AI会统治人类，但我担心它会让人性面目全非

国际科技财经移民娱乐民生时事体育

Bendi新闻

5月前

Chatgpt爆火后，有关AI的热点新闻持续不断。即使我们无法得知尖端企业内暗流涌动的内幕，但也能感觉到第三次技术浪潮正在进行，未来汹涌而来。

“科学家们的工作是可以预测出将来会出现汽车，人文学者们的工作则是在汽车出现之前，预测出堵车。”

本文选自学者陈嘉映老师7年前关于AI的演讲，时至今日，仍能有所警示。在技术主宰人类的时代，人性会如何变化，会失去什么、得到什么？本文的预言有相当的说服力。

我不担心AI会统治人类，但我担心它会让人性面目全非

文/陈嘉映

（当代著名哲学家）

来源/学人读书

今天的主题是人工智能。这个题目，我没做过研究，但翁菱指定我发言，我就说说我的零零星星的思考，抛砖引玉吧。

最近这些年，最火热的技术好像是两种：生物工程技术和人工智能技术。这两大门类的技术都很了得，不仅将大规模改变世界的面貌，而且将改变人自身。我常说，这是两面夹击，人工智能要把机器变得越来越像人，生物工程要把人变得越来越像机器。

生物工程技术和人工智能技术，两厢相比，我估计，生物工程技术带来的变化会更根本。据说，生物工程技术不用多久就能够让人长生不老。在很多人看来，长生不老是所有愿望里最大的愿望——无论什么愿望，都得人活着才能实现。但推开一步想，人终有一死，才会去努力实现愿望，真若永无死日，那还急什么？今天、明天或任何一天，所有的日子都一样。人想多活几天，人有这个愿望大概是事实。不过，长寿作为一种可欲的东西，在各种文化里地位不同，好像在咱们中国摆的位置最高，在古希腊，极流行的观念是人过完了青壮年就该去死了。我其实挺怀疑人是不是真的都愿意长生不老。看着一群活蹦乱跳的孩子，大家都开心，看着年轻人旺盛生长，大家都开心，我们老年人要是都不让出地方，孩子和青年往哪儿长呢？

不过，今天的主题是人工智能，还是回到这个题目上来。我们街上的老百姓，说到人工智能，首先想到的大概是科幻电影里的电脑人。电脑真能变成人吗？

人工智能进步飞快，在很多特定方面已远远强于人类。但我以为，电脑不会成为人。人工智能跟人的智能有根本的区别。人类智能是有机体的智能，所以，人类智能连着意识，连着欲望和感觉等等。我们需要有智能才能制做衣裳，才能生火，而这智能是跟感知连在一起的。我们知冷知热，感知到降温了，于是要添加衣服或生火。我们之所以感知到降温了，那因为我们是恒温动物。温度计可以测量温度，但它不感知冷热。我们感知这个世界，因为我们是有机体，有血有肉，有各种各样的欲望。所谓智能，并不只在脑力里，智能体现在手和脚上，体现在人的方方面面，比如，体现在说话的声调里。

总之，计算能力这种“智能”跟人类智能不是一回事。人的智能跟感知连在一起，感知跟欲望连在一起，欲望跟血肉连在一起。智能在人身上很突出，但它仍然是人这个有机体的一个方面。

所以，我倒不像有些人那样担心电脑人有朝一日会统治人类。他们说，人工智能的威胁与原子弹的威胁不同类，原子弹的危险是毁灭人类，电脑人的危险是另一种，它们将超过人类，成为一个“更高”的群体，成为人类的统治者。可机器为什么要控制人类呢？人要控制别人，因为他要利用别人，人对人工智能毫无用处，他干吗要控制人类呢？人要控制别人，因为他害怕，人工智能没有fear，他干吗要控制人类呢？电脑人控制人类，那只是科幻电影的遐想。

但机器人能不能发展出感觉、欲望、感情呢？就说自保这种欲望吧。就我们人类之为动物而言，自保是一种基本的欲望，有了这种欲望，就会生出其他多种多样的欲望，例如，口渴了要喝水，肚子饿了要吃饭，受到侵害要奋起反抗。

也许，有朝一日，我们会为电脑也设置自保的程序。有了这个基本的程序，它也许会自己生成其他程序，电池缺电了它就设法充电，受到侵害就奋起反抗，等等。这的确是可能的。但我们仍然不可能为电脑设置总体的自保程序。或这么说，总体上的自保根本不是设置出来的，对有机体来说，自保是构成性的，是有机体的定义的一部分，不需要设置。而对电脑来说就不是这样，自保不是它的一部分，所谓给电脑设置自保的程序，指的本来就是设置一系列缺电了就设法充电之类的程序。

我们也许可以承认，按照我们今天所理解的欲望，电脑人不会产生这样的东西。那我们能不能重新定义欲望？我们不可能单单重新定义欲望，为此，我们需要重新定义感知、感情、理解、理想、精神，一句话，我们需要重新定义人。

我并不是在主张有一种亘古不变的人性。今人的人性不是一万年前智人的人性。在那时的智人看来，今人的人性已经面目全非。不过，人性的改变和技术造就的改变不是同种类型的改变——人性的改变不是设计出来的。（历史上不止一次有政治家和思想家企图通过设计来改变人性，但他们无一例外都失败了。）简单说，人性的改变坐落在人性的连续性之中，这样的改变我们称作生长。对这种连续性的变化，调整定义是有意义的，但对人工智能，干吗非要用它来重新定义人呢？

我不怎么担心电脑会变成人，变成一种超级人类，然后来统治人。但我倒相信，人工智能技术会大规模地改变现有的人类，最后变得面目皆非。

技术当然不是今天才有的。不过，今天的技术不同于以往的技术。粗略说来，人类技术经历了三个大阶段。最初，技术是工匠们琢磨出来的。后来，十八、十九世纪以来，技术是科学技术——现代技术不再是匠人摸索出来的，而是基于科学原理发明出来的。工业革命依赖的是这样的技术。

人工智能代表的是第三波技术发展。这一波与前两波的主要区别在于它做的是“脑力劳动”。人的能力可以粗分为体力和脑力。工业革命引入了一系列新能源、新机器，它们把很多体力劳动接过去了。人工智能将把很多脑力劳动接过去。人们预料，人工智能将比工业革命给社会带来更剧烈的改变。因为体力本来就不是人的特长，脑力才是，柏拉图在《普罗泰戈拉篇》里就说过，人没有翅膀四足尖牙，胜过动物的只在于才智。要是脑力也用不着人了，人还能干什么呢？

脑力和体力的区分有时有点儿误导。刚才我说，智能并不只在脑力里，我们一投手一投足，动手动脚，都体现智能。这意味着，所谓脑力劳动不只是脑子的劳动，人类的一切活动，都有脑力在内。结果，人工智能有可能把几乎所有劳动都接过去。

人类发明各种技术，本来就因为技术可以代替人类劳动。但也有人担心，人工智能技术只有少数精英能够掌握，大多数人参与不到其中。一方面，他们的劳动将越来越“不值钱”。另一方面，他们的生活将越来越依赖于少数精英的发明。社会结构因此会发生巨大变化，只有少数人是有用的，大多数人变成了“无用阶级”。

我们也许觉得这是杞人忧天，不劳动了，还可以玩嘛。我们可以把世上的事情分成我爱干的和我不爱干的，有了电脑人，我们就可以把我们不爱干的事情派他去干，然后把时间省下来做我们爱干的那些事，比如说打球、听音乐会、谈恋爱。谈恋爱我就不派电脑人去，这么好的事派它去干吗啊？

我们是可以区分哪些事是我们不得不做，哪些事是我们乐意做的，但是这种区分挺有限的。比如说带孩子，换尿布不爱干，逗孩子笑爱干。但你不给孩子换尿布，逗孩子玩就没那么乐。好玩的事情怎么跟有点儿苦有点儿累的事情连在一起，我们弄不大清楚，但我们大致知道，你为孩子付出了很多辛苦，你跟他的相处就会有一些不同的品质。等到把不爱干的事情都交给机器人以后，剩下的爱干的事情的性质也会改变，你作为一个人的品质总体上也会改变。

我们劳作得很辛苦，难免有时会希望别人做这些工作我们来享受劳动成果。不过，如伯纳德·威廉斯指出的，人并不是只要享受的生物，我们不仅希望获得结果，我们也希望这些结果是亲力亲为的结果。马克思认为，劳动创造了人，劳动是人的基本需求。劳动与享受割裂开来，劳动由机器完成，人单单享受结果，人的定义就改变了。

我们实际上正在经历这个过程。我们对世界的感知越来越集中到结果这一端。我们住在楼房里，不知道楼房是怎样盖起来的，打开餐盒，里面是大米饭，但我们没见过水稻长在地里是什么样子的。我们通过各种屏幕看到海底世界、太空、非洲的动物，世界各地的骚乱，但没有哪样事情是我们亲历的，没有哪样东西是我们亲力亲为的结果。不断进步的技术把人类劳动一项一项接过去了，我们不必经历劳动的艰辛就能够享受劳动的成果，这让技术乐观主义者欢欣鼓舞——技术把苦活累活难活都干了，我们享受成果，有何不好？但事情还有另一面，那就是，我们只享受结果，不再能感知产生结果的过程。仅仅感受结果是薄瘠的感受，而我们的感受正在变得越来越薄。

现在哲学界讨论人类智能和人工智能的区别，很大一部分集中在人具有意识这一点上，而所谓意识，被说成是主观体验，是跟什么东西都不相连的qualia。人不再是欲望、劳作和结果之间的联系，人变成VR游戏室里一堆主观体验，当然，人的定义就变掉了。

人工智能发展起来，不仅社会结构会发生很大变化，人自身也会发生很大变化。技术不只是我们可加以利用的东西，技术改变我们自身。有一些改变是明显的。我们习惯了GPS定位，我们的方位感就可能退化。等我们习惯了让电子设备来采集关于自己身体的数据，我们对自己身体的感知很可能变得越来越迟钝。技术改变我们与世界相处的方式，随着与世界相处方式的改变，我们自己也在改变。

我不认为人工智能会演变为一种新人类，但人工智能倒是很可能把人变成新人类。

技术进步会改善人类生活，同时使未来面对更大风险。可我说的好像都是风险那一面。这并不奇怪。有人把知识人的任务设想为指导社会发展。我倒觉得，知识人从来没有成功地指导过社会的发展。社会自行发展。知识人的任务与其说是指导社会，毋宁说在于指出这个发展过程中的危险。是啊，社会自行发展，这可不一定是朝着良好的方向发展。

海德格尔就是这样看的，他说，技术是这个时代的存在天命，技术发展，你喜欢也罢不喜欢也罢，技术仍将征服世界。是啊，人能够控制其他人，控制异端思想，唯独控制不了技术的发展。如果有一天，人类只享受结果，产生的结果的过程都交给人工智能去施行了，真到了心想事成那一天，那么我们就不得不说，技术主宰了人。

借助技术，我们把过程和结果分离开来，我们只要得到结果就好了。这一点，在人工智能那里最为突出。

去年，AlphaGo战胜了李世石。有意思的不是人工智能赢了——这只是早晚的事儿。我觉得最有意思的是，AlphaGo的设计者并不知道它是靠什么理路赢下来的。我跟围棋高手下棋，不论他多高，我们两个都是在用同样的“围棋语言”思考。而AlphaGo依靠的根本不是我们的思维方式，而是一种我们无法理解的思维方式——如果还叫它思维的话。

人们从各个角度思考人工智能，怎么提高人工智能的水平，人工智能会怎样改变我们的社会，改变我们自己，等等。我自己的兴趣则在另外一个方面。

我更关心的是我们已有的东西，想要更恰当地理解我们已有的东西。比如，通过对人工智能的了解，更恰当地理解人类自己的智能。按现在流行的看法，人工智能的发展让我们看到，智能的本质是计算。我的看法正相反，通过围棋程序的发展，我们能够看得更加清楚，人类智能的本质并不是计算，而是对话，是互相理解。下棋是一种对话——围棋也叫“手谈”。实际上，人的所有智能都是一种对话，哪怕我是一个人在思考。我独自证明了费马大定理，最后一刻我说，我明白了；我明白了什么？我看到了过程与结论之间的联系。因此，我明白了，我也可以让别人明白。然而，我们并不知道在AlphaGo那里，过程和结论之间是个什么联系。在我看，这才是人类智能和人工智能的本质区别。