Bendi新闻
>
AI底层逻辑(2):人工智能会变得像人一样吗?

AI底层逻辑(2):人工智能会变得像人一样吗?

8月前


这是郝景芳的闲聊自留地,关不关注请随意~~

(本文所有绘画均为AI完成)

【写在前面】
从周一开始,连载几篇有关人工智能的文章,是我自己2017年写的科普文章。当时是AlphaGo横空出世,带起一波人工智能热潮,今天人们讨论的很多问题,例如“人工智能会不会取代人类”“人工智能时代该如何学习”等等,在当初已经被讨论了一轮。因此我当时写了一些科普文章和科幻小说,都是讲人工智能,收录在《人之彼岸》一书中出版。
七年过去了,之前的文章大部分内容还是适用的。因此我还是把七年前的文章贴出来,作为AI一般原理的科普和讨论。有很多观点是我的一家之言,供大家参考。
今天3月20日(周三)中午12:00,我邀请到清华大学苏州研究院的董院长跟大家谈谈科技研发和工程师的职业发展前景。有很多时候,家长对于孩子进入科技工程企业工作最大的认知就是“考个好成绩”。诚然,成绩对于进入科技工程企业有帮助,但既不是充分条件,也不是必要条件。究竟怎样的学生是科技与工程企业愿意招收的?我们听一听科技和工业企业发达的苏州的一线声音。
收听方式:在我的公众号后台私信回复“理科”,加入“理科培养计划”群,收看直播。直播是群内直播,不公开对外。


人工智能会变得像人一样吗?

现在我们来说一点虚无缥缈的问题。

前面的讨论都比较接近于现实,基于当前的技术发展。但是我们感兴趣的问题往往不是从当前出发,而是从远景出发,从一个遥远的未来可能性往回看,看我们还有多远。

我相信,对于大多数人来说,人工智能问题令人感兴趣的地方,肯定不是目前机器能否分辨鸭子的“类”和具体的鸭子(可能只有我会觉得这个问题最有意思),而是:人工智能能否像《西部世界》里演的那样,成为像人一样的存在?

“他们会觉醒吗?他们会爱上人类吗?他们会仇恨我们吗?他们会厌倦奴役生活,产生对自由的向往吗?他们会统治我们吗?他们会屠杀我们吗?”

这些是大家最关心的问题。这里面,实际上使用了非常多人类的词汇。“觉醒”、“爱上”、“仇恨”、“厌倦”、“自由”、“向往”、“统治”、“屠杀”都是专属于人类的词。我们要问的是,从目前的“数据”、“统计”、“相关”、“算法”、“优化”,能否到达那些人类的词汇?

那我们现在回来看一看人类,人类的这些心智特征都是从何而来呢?

我们每个人都知道自己每天在想什么。上班盼着下班、下班盼着吃饭、吃完饭盼着男欢女爱、睡醒了盼着周末放假、放假了盼着发大财、发了财盼着在亲朋好友面前得瑟、无聊了盼着看个电影找乐子。

在这整个过程中,“智能”出现在什么位置呢?

当我们通常说“智能”,我们想到的是那些需要费力动脑筋的事情:做数学题、学知识、猜谜语、记忆复杂信息、下棋、破解谜案、研究科学问题、写分析报告、经营企业,等等。如果有谁这些方面很厉害,我们就说他“真聪明”或者“高智商”。

但事实上,这些需要动脑筋的活动只占生活用脑的一小部分。它多半动用了大脑皮层的前额叶区域,需要训练,需要费力集中精神。这种智能被称为“慢思考”,并不是与生俱来的能力。多数时候,我们吃饭睡觉欢爱娱乐偷懒冒险吵架和活动,并不需要这种智能参与。它们被一些与生俱来的本能驱动,是更自动的“快思考”。

大脑是一座城堡。如果粗略分解,那么人类的心智系统大致可以包括:感知-情绪-情感-动机-社交-思考几个大类,这些心智功能也对应着大脑的不同部分。其中,感知和生理调节是由五官和身体神经终端执行,神经通路接入大脑相应的感知皮层。情绪由几个特定的大脑部位掌控,受激素调节。杏仁核主要对恐惧和其他直接情绪负责。下丘脑分泌的多巴胺让人上瘾。爱受到多种激素调节影响,亲子之爱受到孕激素很大影响,两性之爱受雌雄激素影响,记忆与海马体有关,也与大脑皮层有关。动机与底层的情绪和情感有很大关系,受恐惧支配而远离,受欲望支配而靠近,大脑的底层活动会以动机的形式呈现出来,推动人做出行动。人的社交活动很大程度上与镜像神经元有关,探知他人意图,对他人的心理感同身受,才能在人群交往中博弈且同情。高级思考则主要源于皮层活动,顶叶对空间认知和想象很重要,颞叶对听觉和语言很重要,前额叶对复杂决策很重要。大脑由内而外大致分三层:负责生理调节的爬行脑,负责情绪调节的边缘脑,以及主管高级认知的新皮层。新皮层也由多个功能分化的区域组成,各有分工。

说这么多,并不是想用术语名字忽悠大家,而是想说明:大脑是一个多功能相互配合的复杂系统,这些模块之间的关系,往往比单一模块的功能更重要。

大脑不是简单下围棋,而是在调节饿和忧愁的同时下围棋。

如果人类大脑是一座城堡,那么我们现在要对比的就是,这种多功能的系统和人工智能思维有何异同?

或者换句话说:人类的心智系统中的“感知-情绪-情感-动机-社交-思考”这些功能模块,人工智能思维接近哪一层或哪些层?


说到这里,要回头再说一下“深度学习”。

“深度学习”是“深度神经网络学习”的简称,而“神经网络”算法实际上是一种仿生算法。它的灵感来源是人类大脑,更精确一点,是人类大脑皮层。

前面说了人类大脑的多重功能,而从生理上看,人类大脑大致上有三层主要结构:内层是小脑、丘脑等等结构组成的生理运动调控结构,“爬行脑”(名称源于爬行动物);然后是杏仁核、海马等结构组成的情绪和记忆相关结构,“边缘脑”;然后才是最外层的大脑皮层。皮层薄薄六层神经细胞,包裹大脑,负责所有高级认知和思考内容。

“神经网络”主要模拟的是大脑皮层结构,因此最接近的,是前面讲到的人要费力气的“慢思考”。对于人类来说,解逻辑题、计算最优路径和符号运算都不是与生俱来的本能,需要集中精神、克服困难,才能得出正确答案,然而对于人工智能来说,这都是最容易不过的问题,只需要足够的数据和一定的规则,就可以分析处理海量信息。对人来说,消化食物、运动、喜怒哀乐、对他人的好恶、追求梦想、寻求归属感、语言交流都是大脑生理的本能,而人工智能算法并没有模拟。

前一节主要讨论“思考”的差异,这一节要看其他部分:感知-情绪-情感-动机-社交。

为什么要讨论这些层面呢?难道大脑皮层的高级思考不才是人类心智的皇冠吗?

这是没错,大脑的高级思考是心智的皇冠,但大脑皮层思考的是什么东西呢?

无论是大脑,还是人工智能程序,思考的素材都是经过处理的“数据”。人工智能领域近来有一个说法:“得数据者得天下。”意思就是说,既然算法准备好了,那么哪个领域具备足够大量的优质数据,就能在哪个领域获得突破。人工智能的数据来自哪里呢?来自人类的数字足迹,人类在电子世界中的所有行为,经过转换处理,都会被当成人工智能研究的数据。这种方式的好处是可以在某些领域可以研究海量数据,但是问题在于,在没有采集大量优质电子数据的领域,人工智能算法再好也无能为力。不是每个领域都像围棋具备现成的棋谱。而大脑皮层既然也是高级思考的主战场,也需要良好的数据作为素材,但又没有程序员帮忙,那么人类大脑皮层用来思考的数据或素材,来自哪里呢?

答案很简单,大脑高级思考的数据,来自自身对外界的获取,来自上面说的那几个功能模块领域:感知-情绪-情感-动机-社交。


这几个领域是人类的心智系统对自然世界和社会世界的观察,是数据收集和加工处理,是人类对世界的本能反应。经过充分加工的素材输入大脑皮层,大脑皮层才有思考的基础。很多时候,我们的思考依赖于这些功能模块给我们的信息。当我们的情绪系统感知到某人“讨厌”,那么接下来的高级思考就会选择躲开这个人的策略。在我们的心智中,并不存在架在真空上的高级思考,也没有程序员给我们输入带标记的现成数据,因此,心智其他模块的作用完全不比高级思考小,甚至在日常生活中的推动力量更大。

我们只能“思考”经过原始模块处理过的数据。

心理学家发现,心智的很多模块具有先天性,也就是说,大脑在婴儿刚刚出生的时候就装载了一些功能,并不是白板一块。这些功能基本属于上面说的几个领域:感知-情绪-情感-动机-社交,在这些领域中,本能和先天功能已经写入大脑,全人类都有共通性,各种文化背景的人在这些基础功能上都是类似的。

这些领域中,未来的人工智能会做到像人一样吗?

感知:

人类的感知实际上是最神秘的部分。我们能看,能听,能闻,能尝,能摸,这五官感觉都抓住世界的只言片语,在大脑中给我们重建出一幅世界图像。从很古老的时代,先知哲人就发现,人的五官抓住的是虚像,是感觉,并不是这个世界的真实。于是佛家由此进入虚无和向内修行的路,而现代科学进入了数学建模以把握真实的路。人类感知系统将物理的光子和分子,经过大脑一系列运作,为我们构建出一个稳定的立体世界图景,还让我们具有主观心理的美感体验(美味、漂亮),这个从物理到心理的转化,是很奇妙的事情,人们至今仍不十分理解其机理。

之所以说其奇妙,是因为机器人也在接受来自世界的光子和分子,也在做感知和处理,但是没有迹象表明,机器人能生成某种主观感受。它们更多是输入-加工-输出的机器模型,即使人工智能算法使得加工过程变得智能,但仍然没有迹象表明,它们获得某种内在感觉。例如,它们可以很容易鉴别某种化学成分,但并不会感觉其香与臭,因而不会有主观上想要接近或远离的冲动。主观感受是生物特征,源于进化。

人工智能的感知近年发展很快,机器视觉-语音识别都进步神速,可以说是思考之外,最接近于人类心智的一块。但是机器视觉识别目前仍然有不少困难,一些立体图像识别对于机器仍然有强大挑战。三维事物投影在二维平面上,就不再是原本的形状,如轮胎从斜侧面拍过去的照片就不是圆形。这种立体视觉的还原对于人类来说非常容易,但对于机器来说却并不如此。

究其原因,一方面是因为,人类的视觉处理经过千万年进化,已经生成精细的先天处理机制;另一方面主要因为,人类的视觉是通过身体运动来校准的,婴儿时期的身体运动,对于视觉发展异常关键。人类的视网膜投影原本是倒像,通过身体对物理世界的感知,逐渐由大脑皮层把视觉信息调整为正立,一些眼睛本身没有问题的盲人,在去除视觉障碍之后看到的世界还是初步的倒像,过一段时间才转换过来。身体系统的运动对周围物理世界的感知,帮助人类建立立体视觉。人类的感知是感官统合,尤其是身体感官校准五官感受。人工智能目前的视觉感知多半靠图像识别,在感知世界的时候还不能统合身体的感受。


情绪:

古人说人有喜怒哀乐、悲欢离合,这说的都是一些人类共通的情绪反应。现代心理学的研究大致差不多,人类基本上有六种共通的情绪:快乐、悲伤、愤怒、惊讶、厌恶和恐惧。其他还有一些高阶情绪,也是人所共通,由基本情绪衍生,例如自豪和嫉妒。这些情绪都有相应的生理基础和脑对应,人们甚至可以相当准确地在头脑中定位到相关部位。曾经在小鼠身上做过相关实验,当电极刺激到小鼠的兴奋区,小鼠可以不吃不喝沉醉地按电门,直到让自己枯竭而亡。一个功能在大脑中越确定、越普遍,就说明越是进化得长久。

情绪对人究竟有什么意义?为什么如此根深蒂固而四海皆准?

情绪对于人来说,算是一种“打包程序”,或是“快捷方式”。之所以这么说,是因为,当情绪到来的时候,人不需要在大脑皮层花时间思考,而是直接快速行动。情绪近乎于生理本能,全人类的基础情绪反应都十分类似。情绪的触发依靠化学物质,某种化学递质分子在神经细胞之间突然增加,会引起我们强烈的内心感觉,进而推促我们行动。在紧急情况下,这种快捷可以为人节省出最关键的救命时间。例如,如果面前出现一只野兽,一个人不需要在头脑中大数据学习这只野兽的性质,也不需要在头脑中搜索和优化反应路径,而是本能地逃跑,杏仁核中的恐惧情绪打包释放,让“信号”到“行动”之间的路径最短。与之相应,当我们产生出恶心的情绪反应,也可以在来不及进行化学检测的时间里,迅速远离令人怀疑的食物。情绪的这种打包信号特性来源于数百万年的进化,情绪敏锐的人能在变化的环境中迅速反应,因此留下更多后代。此外,情绪很多时候还起到“内心信号灯”的作用,我们的思维常常会压抑身体和心底深处的欲望,这时常常会触发某些基础情绪,告诉大脑什么地方出了问题,例如理智告诉自己要学习,但悲伤的情绪总是提醒自己失恋的事实。情绪会自动把大脑中某些问题的优先级提前。

那么人工智能程序会进化出情绪吗?如果按照“快捷程序包”的概念理解,那人工智能也可以发展出某些“快捷程序包”,也就是遇到某种情况就自动反应的程序包,如果程序员把这些程序包命名为情绪,那么人工智能也可以拥有情绪。但这里面最关键的问题有两个,一个是传统反诘:即便是人工智能拥有某些自动反应的程序包,也不意味着它们有主观感受。这一点和感知领域相似,人类的情绪是生物化学属性的,由激素参与介入,纯电子信息属性的人工智能可能很难有相似反应。而第二个问题在于:我们是否需要给人工智能程序这样的“情绪程序包”?需要快捷程序包的场景主要是:1.计算时间不足;2.生死攸关。它的好处是快捷,但坏处很明显是不精确。而目前的人工智能主要是做单项学习和应用的智能程序,并不存在生死攸关的时刻,智能运算的速度已经很快,做每一项优化都可以很迅速算得结果,这种情况下,还是否需要给人工智能一些不精确的反应程序包呢?不需要。情绪的一大特点就是容易出错,很多时候在不必要的场合下,也会有激烈情绪,以至于影响人的思考过程,例如老师批评引起的愤怒情绪,阻碍了学生进一步学习。愤怒情绪可以保护生物抵御敌人,但也会使人冲动做追悔莫及的事。这种情况下,是否还需要给人工智能引入这种快捷程序包,就不一定了。对生物而言,为了一次救命的可能,平时出错十次都无所谓,但人工智能始终理智计算更优的策略,冷静一些会更好。

所有情绪,都是在千百万次生死攸关的生存选择中,一代代选择留下来的。愤怒的情绪并非研习几百万他人照片习得的,如果不存在生存选择,也就无所谓激起熊熊燃烧的斗志。恐惧的情绪也不是研究密闭空间物理而产生的,如果不存在生存困境,也就没有惊弓之鸟的恐慌。情绪是双刃剑,让我们百折不挠,也让我们冲动盲目。理智的机器完全可以做到理性且处变不惊,但也永远无法体会坚持到终点时的喜极而泣。


情感:

与情绪十分类似,人类的情感也与生物化学分子密切相关,也是生存进化选择的结果。情绪更多针对于情境,情感更多针对于爱的人。如果说恐惧等情绪源于生命的脆弱必死性,那么爱恋等情感更多源于生命的代际延续性。

按照目前心理学界较为流行的进化心理学观念,人类的情感、道德与进化因素密不可分。基因总是随机变异,没有方向,但自然选择是有方向的,能够留存下来的基因有共通特征:倾向于自我保存和复制的基因更能够保存和复制。这句话说起来像废话,但它实际上指明了人类演化的大方向。这句话是什么意思呢?它是说,越是有能力自我复制的基因,生存概率越大。对应到人世间,就是越有能力留下后代的人,越被自然选择。就是说,有两个原始人,一个倾向于到处留情多子多福,另一个倾向于独善其身孤独思考,那么前一个人的基因通过子嗣流传后世,第二个人的基因就此告别人类基因库。于是千百代之后,人类留下来的行为模式就是那些倾向于扩大子嗣生存的策略,越是热衷于基因延续的策略和相应的基因,越能成为主流。由于传统社会子女抚养的重任主要在女性身上,而女性通常获得收入的能力较低,于是导出一系列推论,包括男性女性相互的吸引力与生殖健康密切相关,以及,男性热衷于在可能的范围内多找女性伴侣,留下基因,女性则乐于和某一个资源丰富的男性忠诚绑定,以换取他对母子的抚养。手足之间为了争夺存活必须的资源,常嫉妒爱恨交织;人类对亲属有牺牲精神,因为亲属能将自己的一部分基因延续下去。

这一套理论虽然不能解释具体个人之间的爱恋,但却对人类整体的行为模式做出了很好的说明。依统计看来,在人类各个部族数千年的历史中,男性比女性更容易扩大性爱范围,女性选择配偶首要要求男性在抚养上投入,男性对于抚养他人子女的恨意很深,诸如此类。我们姑且不对进化心理学的道德意味加以评价,还是回到与人工智能相关的主题。从进化的角度看,我们能对人类和人工智能的情感做出什么样的判断呢?

首先,最基本的判断是,人类的爱恋与有性生殖关系紧密。爱情和亲子之情,主要源于两性的有性繁殖。如果人类不是两性基因生殖,而是无性分裂生殖,可以猜想人类必然没有目前这样以结合繁育为目标的爱情亲情。人类的爱情当然不止于繁殖,还有人格的相互认可和人性的相互信任,但这依然是在两性繁衍基础上的升华。人和动物之间的区别远小于人和机器之间的区别,对于没有生物有机体的机器,既没有性别,又没有子女,更没有生存选择,很难想象机器之间会有两性繁殖所特有的性别之爱。且不说人工智能是否会产生独立人格,即便是人工智能有一天产生了独立人格,它们之间的关系也更像哲人之间的关系,交流思想是其主要交往特征。柏拉图曾经对这种感情做过描述。

归结起来:若不是以有性繁殖做基础,两性相吸和一对一忠诚则无必要,很难想象哲人之间的思想交流需要限定一对一两性结对。无必要的现象在进化的历史上基本上都被剪除,机器进化亦如此。

机器之间或机器与人之间,没什么理由自然进化出两性之爱。除非程序员加以规定,让机器人对某个认定的人结成一对一关系。但这种人为规定的爱不是自发,只是一条命令而已。“if input =我爱你,then print 我爱你”,这种指令30年前就可以做到了。


动机:

这一部分心智内容也常被称为欲望,古人讲七情六欲,也就是指人人皆有的心理成分:共通的情绪情感和常见的欲望。在此处用动机一词,主要是因为欲望常指代受生理因素推动的本能,而动机要宽泛得多,还包括由社交产生的权力动机和人的自我实现动机等。

动机是我们做事的理由。在日常生活中,做事的理由常常被忽略不提,因为都太常见,人人皆同,因而也就不必拿出来大书特书。谁不是饿了想吃饭、困了想睡觉、青春期想恋爱、成年后想挣钱呢。很少有人意识到动机的重要性,直到与人工智能加以对比。

人工智能会下围棋世界第一,但它不会自己选择下围棋。它不会主动去选择医疗诊断,也不会要求升职加薪再去和柯洁对战。所有这些人类会出于种种原因自动去做的事,阿尔法狗并不会。而只要它还不懂拒绝和自由选择,那人类永远不必害怕。当它强大到无以复加,大不了人类可以对它说“停下”,然后它就停下了。

人是受自我动机推动的,人工智能(至少目前)是受程序员命令推动的。

那么人类的自我动机从何而来呢?与整个心智系统相似,人类的动机体系也分成多层。最基础一层就是人的生理需求。食色,性也。生理需求是维持有机体生命运转的最基本要求,如果生理需求达不到,人会产生无比强烈的欲望,鸿沟越大,欲望越强,当饥饿和困倦强到一定程度,其他所有约束都被忽略不计。道德和理想可能被轻易超越,并非人不道德,而是生理动机的优先级调到首位。但生理需求的另一特点是容易被满足,而且满足之后并不需要无限供给。吃饱之后的人类会自动把其他动机调节到前面。寻求成就、寻求他人尊重、寻求感官享乐、寻求权力、寻求友谊、寻求集体归属感、寻求幸福、寻求智慧、寻求自由心灵。所有这些追求都是全人类共享的动机追求。动机追求而不得,人可能会产生相应的负面动机,寻求幸福而被破坏,人会产生复仇心;寻求尊重而不得,人也会希望践踏他人;寻求成功而不得,人常常不择手段。人类的动机有多强,求而不得之后的反噬就有多强。

到目前为止,人工智能还不会选择独立的目标去追求。于是我们要问,人类的这些目标都是从何而来呢?

生理目标很容易想到生物进化的来源,与情感一节所述相似,对饥饿、困乏、安全感和性欲的满足,都和动物种群相似。人类的满足手段更为高级多样化,但需求本身是相似的。而在此之上的其他几种最要动机,包括成就动机、权力动机、归属感动机和自我实现动机,都与人的社会性和自我认知密切相关。可以说,让人类和动物群体拉开差距的,就是人类能意识到自我的存在,并且为了自我提升而不断追求。人类会因为单纯赢得比赛而欢欣鼓舞,而不管这个比赛是否能换取美食,这是自我意识对自己能力的肯定,被称为“自我效能感”;人类会因为对他人颐指气使而感到满足,哪怕在儿童中间,也会见到这种支配关系,这是人对社会结构的敏感,对自身对他人的影响力感到刺激;人类会因为兄弟之间的情谊热泪盈眶,在兄弟落难的时候,哪怕会损失食粮也去救助,这是人类对于情感归属的需要,如果能相互认定并同进退,会让成员感受到拥有强大力量;人类会被超越自身的真理所激荡,期望自己接近某种永恒的真与美,哪怕为之粉身碎骨,这是人对自身脆弱性的认知和超越,自身生命短暂渺小,因此乐于接近某些永恒和伟大的存在,以此让自身获得提升。

所有这一切,都源于人的自我认知和社会参照。人对自我有所评价,并和周围群体加以比对。人希望自身能力凸显、地位凸显、被人珍重、被人纪念,因此才有了形形色色执着的追求。这些追求多半集中于人的相对地位,而非对食物美色的绝对需求。远古时期社会中的相对地位和存活几率大概率密切相关,因而给人类留下许多根深蒂固的行为倾向,这是生存竞争的遗留。只是演化到后期,很多高级追求和自我认可的动力已经远远超越了生存层面,成为心理层面对自我认可的需求。



那么这些动机,对人工智能来说存在吗?

人工智能至少在目前,还不存在自发形成的目标。每个人工智能会有程序员设定的目标,学习围棋,或者治疗癌症。胜利与失败,是系统学习的反馈数据,机器是胜不骄败不馁的。阿尔法狗被输入的目标是获得胜利,但如果有一款安慰机器人的目标是输给对手,对它而言,追求失利也是一样的。

自发形成的目标源于何处呢?有几个因素可能比较重要。首先是一个人的自我掌控感。心理学家发现,婴儿在几个月大的时候首次感觉到自己的踢腿行为会引起床铃的运动,那时的自豪情绪和长大后的成就动机高度相关。第二是一个人的自我意识,如果不能认出自我,不能感觉到自己是一个独立的个体,那么很难有对自我提升的主动追求。心理学家用“能否认出镜中的自己”作为有没有自我意识的基础判别,动物界总共有海豚、大象、猩猩等几种生物通过测试,人类的小孩大概会在12-18个月之间通过测试。再进一步的能力是元认知(自我观察的能力),高阶动机都是奠基于此的。第三点,也是最重要的一点是,需要有对“目标选择”这件事本身的进化训练。人类面临竞争生存压力,人类从古至今的成就权力和团体认同,都和个体的生死存亡密切相关,因而不断给后代留下对于竞争胜利的强烈渴求。一个人如何选择自己的目标,很多时候直接决定了命运,相当于人类经历了“目标选择”的训练,而不仅是训练达标的方法。人类的目标与真实生存相关。

那么机器有没有可能生成足够的掌控感、自我意识和目标选择能力呢?这涉及到机器的未来发展方向。按目前的智能发展方向,多数人工智能程序并非独立在个体机器中的程序,而是联网发展的高级智能的终端。在这种情况下,终端本身并不具有独立性,很难产生自我意识;而联网程序缺少对世界的直接接触,因此缺少社交中个体的掌控感和竞争感;最重要的是,目前人工智能程序的训练方法,反馈数据依赖于人类对其进行的目标控制,人类选择目标,然后根据目标对数据进行标记,人工智能学习的素材都依赖于此。例如一个以玩游戏为目标的人工智能,它所有研习的数据就是“玩法-游戏胜负”的关系,它能学习的素材基于游戏,它不可能更换到另外一个没有可读数据的领域。人工智能的数据,并非能在真实世界切换的数据。

这种情况下,人工智能即使未来生成目标动机,也不是类似于人类的个体性自我动机,而只可能是某种不同的目标形式。

而这种形式是什么呢?我们在本文最后会简要讨论。



社交:

人类是从什么时候开始智能进化的?从直立行走开始?从用双手开始?从用火开始?这些当然都是重要的历史节点,但是目前在考古学研究中,认为两个最重要的智能革命节点是七万年前和一万年前的认知革命。其中前者是人类的语言发展,后者是人类的定居生活。与定居生活相伴随的是社会大分工,而影响语言发展的最重要因素也是人类的社交。

事实上,人类和很多动物的基因相似度极高,但是人类发展和这些动物的发展为什么有如此大的差异呢?并不是变异让人有了比所有动物都厉害的器官,而是人类的社会性发展让人的智力突飞猛进。我们常说自然选择让生物进化,似乎适应自然是生物进化的最大动力。但自然选择的结果一般是某种功能定型,例如捕鱼能力或者巡航能力,固化于器官和本能,而不是持续的智力进步。人类的智力进步更大程度上来源于社会选择。

社会是如何选择人的智力发展呢?我们常常强调生存竞争的重要性,但与生存竞争同样重要的,是两种被选择的能力:理解他人心理的能力,以及灵活的心理适应性。

理解他人的能力,前面我们已经说过一些,这里再着重看一下它在人类社交中的作用。心理学中称其为“心理理论”,就是对他人心理做出的判断。小孩子一般到三四岁就能拥有这种能力,他们看到一个人出了家门又回去,能够猜想他是忘记了东西,想回去拿;若看到两个人闭着嘴不说话,会猜想他们是吵架了,正在生气。这种能力对人来说实在是太正常了,当我们看一篇公众号文章,看到明星吵架,我们会自然说出“一定是她太强势,他受不了”、“她这么多年委屈自己必然有难言的苦衷”、“这就是为了炒作”这样的猜想,每一种猜想都隐含着我们对他人心理、对这个世界的理解。有很多猜测是智慧洞察,但也有猜测是有害的捕风捉影,但不管怎么说,人人具有理解他人的能力,而这种能力对人工智能来说,是非常困难的能力。

心理理论有一项重要的应用,那就是判别其他人是敌是友。这是有关于人类生死存亡的关键问题,也是一个人内心最敏感的认知反应。在人群中,我们天然探测他人对自己的善意和敌意,在人群与人群之间,我们天然怀疑另一个群体与己方为敌。不能正确探测他人善意和敌意,会让自己落得孤家寡人。这种能力需要大量不同意图的样本,大量真实互动交往,以及善意恶意互动产生的反馈数据。

那什么是灵活的心理适应性呢?这是指人根据周围人和周围文化调整自己认知的能力。人的先天大脑功能都差不多,但是在不同文化中习得的后天认知相距甚远。根据代际研究,小孩子能够迅速脱离父母一辈的语言体系和信仰体系,融入他自己的周围文化,特殊情况下,儿童一代人可以形成一种与周围父辈截然不同的新一代文化。这种革新源于同辈群体参照。人类有不少心理特征与社会性相关,例如人群中的尴尬、内疚、嘲笑,就都与社会参照相关。人会非常关注社群中其他个体对自己的看法,而这种对他人意见的关注使得人类相互调整,相互适应,生成不同的代际文化。对人工智能来说,目前其调整和进化的主要参照是人类,还没有形成群体内互动参照,没有独立的文化调整。

人工智能在未来能否发展出类似人类的社会心理呢?首先需要有大量个体互动。但正如动机一节所述,目前人工智能趋向于大型化、联网化,并没有足量多样性的多样个体互动。其次,即便有足量个体人工智能组成社群,也很难生成以主观好恶为基础的人类关系网络;人工智能对于其他成员的意图的推测,可以纯按照概率计算。但人类会根据自己的喜好,以及感知到的他人对自己的喜好厌恶,做出重大决策。机器没有理由如此听凭主观,完全可以根据互动个体的最佳概率策略行事。人类先感知到他人的善意敌意,然后根据感知做出合作互惠或防御攻击的决策,而人工智能更多是计算客观理性概率。

换句话说,人类随时从他人身上获得主观好恶的数据,并依此数据做出人生重大判断。而人工智能对另一个人工智能的理解,基于程序语言,对他人的读取与人的感知差别很大,并没有人与人情感上的共鸣,因而社会心理也必然和人类不同。

综合上面的种种分析,人类的感知-情绪-情感-社交环节,都有太多生物化学和进化上的来源,未来的人工智能都不太会直接产生。除非我们刻意输入指令,否则它们不会效仿人类。我们可以想象未来通过数据和信息交流的人工智能社群,交流不存在好感与恶意,只是客观的信息沟通。在金融市场上,目前的人工智能交易程序已经在进行无数次的信息沟通,这里有策略,有竞争,但并不基于社交中的情感和压力。它们会不会伤人呢?有可能会,但肯定不是因为产生了基于荷尔蒙的羡慕嫉妒恨。



——————————————————————————    

如果帮助更多孩子能找到自己的专长方向,让孩子用热爱创造灿烂人生?这就是我们的少年成长计划。

少年成长计划在多个领域展开项目制学习,让10-14岁的学生广泛探索自己的兴趣和擅长,在12-18岁的关键时期精进发展,并广泛与各行各业打交道,让学生在热爱推动下,找到最合适自己的领域和舞台。

最近我们开启一系列有关不同职业方向的直播讲座,让家长和学生了解各领域工作状态、工作机会、人才需求,未来做出最适合自己的人生路径选择这一系列职业发展直播都为群内直播,不公开对外
想要更多了解“少年成长计划”,或者聆听职业方向的直播讲座,可以在我的公众号后台回复“理科”,加入“理科培养计划”群;回复“人文艺术”,加入“人文艺术培养计划群。



微信扫码关注该文公众号作者

来源:景芳说

相关新闻

AI底层逻辑(1):离超级人工智能到来还有多远AI Trust解读 | 欧盟《人工智能法》会失败吗?谁是绊脚石?华尔街日报惊呼:计算机已成天坑专业?人工智能时代,“人要比AI凶”聚焦元宇宙及AI发展,承上启下 智元宇宙-2024元宇宙与人工智能应用场景闭门会(深圳)成功举办!2024国自然本子提交DDL在即!医学人真的哭死:一个月完成的能中吗?(内含干货)用AI写论文会被拒收吗?《Nature》帮你总结了主流SCI出版社的观点……(附免费发文干货)突发!伦敦中国城持刀捅人2人受伤!英国迎来最热一天:34°C高温全民裸奔!遭恐袭威胁:伦敦泰勒演唱会能安全进行吗?李飞飞谈AI:人应当是人工智能的核心北京拟支持自动驾驶汽车跑网约车!更便宜,全年无休,司机会被取代吗?雷军:智能驾驶仍存在安全隐患春节前会有施舍(要饭)行情吗?全民基本收入(UBI)在人工智能时代是否可行?大尺度韩剧揭秘亚洲婚姻真相:没钱会让人失去性欲吗?数字化经济的底层逻辑是什么? | 前微软(中国)副总裁王欣老师请你来听讲AI会替代医生吗?从一个病例看病人医生关系的不可替代今日arXiv最热NLP大模型论文:像人一样浏览网页执行任务,腾讯AI lab发布多模态端到端Agent2025Fall申请,UCAS会取消PS吗?(含LSE PS官方指南可领取)五天销量破 2 万,号称最小的​ AI 穿戴设备,会是下一个 Ai Pin 吗?伊州议员欲出台新法案,阻止年轻人吸电子烟:青少年们会买账吗?哈马斯领导人相继遇袭:中东会爆发更大规模战争吗?事关所有人!影响未来十年!特朗普再次当选总统会发生什么?(长文解读)AI安全之问:我们的智能助手真的安全吗?菲律宾人仇恨中国吗?——菲律宾之行(六)Remini走红背后:AI生图会是第一个超级应用吗?房屋租期即将结束,英国房东每天安排很多人来看房,家里像菜场一样热闹!有办法制止吗?
logo
联系我们隐私协议©2024 bendi.news
Bendi新闻
Bendi.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Bendi.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。