现在,世界各大科技公司陷入了AI产品的军备竞赛之中,每几个月就会给自己的生成式人工智能产品迭代。几个月前,中国的Deepseek一度给硅谷和华盛顿造成了恐慌,因为它以一种巧妙的方式实现了使用较低的成本来实现接近于ChatGPT的表现——这种恐慌更是增进了竞争,现在ChatGPT、Grok、Gemini和Llama又在表现上把Deepseek甩在了身后。
没有哪家公司想自己被甩在身后,而大多数用户也热切地期待着技术的继续进步。欧盟试图让自己扮演AI技术的监管者的角色,但这也招致了技术爱好者和美国政客的批评,认为严厉的监管会阻碍技术的进步。假如欧盟是世界产业链中的政策的监管者的话,那么全世界的文科(HASS,即人文、艺术和社会科学)从业者就扮演着智识上的监管者。不过,目前来看,大多数文科学者也热切地跟进着AI的技术的进展,尝试着让AI有利于自己的学术研究。
当然,我个人也属于热切跟进者。在ChatGPT推出不久,我也附庸风雅,写了一篇如何利用ChatGPT来增进自己的人际沟通的文章。现在我也每天都高强度地使用各大AI,但大多数交互都是处理一些生活中遇到的问题,而不是学术问题。不过,我也不是全无担忧的。现在似乎很少看到文科学者对AI技术提出担忧,这可能是因为他们对技术的理解不足,使得自己没有信心提出合理的看法,也有可能是因为他们的声音被追捧技术的热潮所淹没。
接下来,我将提出对新进的AI技术——主要是以生成式人工智能为代表的——的担忧或者批评。我认为,伴随着人工智能的兴起的将会是人类精神的大停滞,而人类精神包括人类的智识成果和艺术成果。我把这一理论简称为“大停滞理论”。我自己也并非真的相信它会发生,所以这里仅在于为读者的进一步思考提供启示。
人类精神的重大突破遵循以天才为中心的模式
从古至今,从阿那克萨哥拉、孔子到贝多芬、爱因斯坦、齐泽克,人类精神的重大突破都遵循以天才为中心的模式。对于这一论断,我相信不会有很大争议。
天才身边及身后往往有一群追随者,或许还有一些背叛者。弗洛伊德的“秘密委员会”就是由他身边的追随者组成的宫廷侍卫组,他们要坚决捍卫精神分析的真理性和伟大导师的名誉。然而,由于弗洛伊德对自己学说的不容妥协的坚持,这导致富有才华甚至天才的阿德勒、荣格和兰克的先后“背叛”,而留下的弟子往往是比较平庸的。直到今天,精神分析还有很多精神上的追随者。不仅算上弗洛伊德,如果再算上雅克·拉康的话,那么今天中国的精神分析爱好者们绝大多数都跟这两个人没有任何师承关系。
一般来说,一个天才的追随者越是虔诚或原教旨主义,这个人就越是平庸。
许多人可能会提出异议,那就是今天的自然科学和工程学研究似乎都是集体智慧的结果,而不是单个天才的结果。比如,就我们现在正在谈论的生成式人工智能来说,它似乎是几十年来的计算机学科研究人员的集体智慧的结果,而不是个别天才的突破。也正是出于这个原因,当前段时间一些中国媒体把Deepseek的梁文峰称为“天才”时,我就知道这是在瞎扣帽子了。
于是,自然科学和工程学,甚至一部分社会科学,似乎已经完成或者正在进行从独立研究到协作研究的转型。现在没有爱因斯坦了,但是有无数的大学和实验室,有无数的导师和他们手下的研究生。
我曾参加过一次讨论,一位社会科学的青年学者说,他认为我们这些做人文研究的人,由于还是在自己独立做研究,所以是“落后的”。
我并不同意他的看法,尽管当时也没有公开反驳。广义上的文科的创作,无论是哲学、文学、艺术还是其他领域,我难以想象这里会存在协作进行的重要成果。过去不存在,今天不存在,未来也不会存在。不太可能两人合写一部小说(尽管我读初一的时候曾跟一位朋友有过此类尝试),不太可能平等地合作创作一幅画或一篇乐章(这样的作品几乎肯定是平庸的),不太可能合作创建一个哲学体系,等等。当然,有些协作是在一人主导下进行的,而这可以是例外。比如弗洛伊德的精神分析运动就是如此,弗洛伊德负责基础理论的创造和阐释,而他的弟子们则承担相对不那么重要的分工。
但即便是一人主导下,也可能存在冲突。我有次上一门哲学教授开的课,他曾经主导编写一部哲学教材,每人各写一章。他告诉我们,这件事至今让他感到“怀疑人生”,以至于再也不想再“参加集体作战”了。他的话是对的。
人工智能无法提供天才性的或创造性的成果
人工智能能否创作出黑格尔的哲学体系并写出几十本值得逐字逐句阅读的书出来?能否创作出陀思妥耶夫斯基、米兰·昆德拉的文学?能否创作出弗洛伊德的思想体系?能否构造出爱因斯坦的物理学理论?能否创作出拉斐尔的画作?我指的不是模仿,而是创造类似于它们的风格的作品或范式的全新事物。
由于本人不是人工智能技术专家,所以无法很深入地回答这一问题,但我相信答案是相对明确的:不能。
更准确地说,就今天的技术来说,不能。假如能的话,我们现在应该能看到无数天才般的成果了,虽然我们的确看到很多有趣的或富有教益的东西,但是没有看到天才般的成果。也因此,AI还没有给人类精神带来重大突破。
根据我的经验和理解,目前的生成式AI的本质是已有信息的重组。虽然天才的创作或者创造性的成果基本上也是基于已有的成果,但是他们要在此基础上实现惊人一跃。AI做不到这样的惊人一跃,无论怎么给出提示词都不太可能。我曾经要求ChatGPT创造出一个类似于弗洛伊德心理理论体系的同样具有创造力的框架,结果它只是给出了一个拙劣的对“本我-自我-超我”的模仿。我也经常让ChatGPT根据我的文章内容创作文章的特色图片,但总是千篇一律。
所以,这里便出现了一个值得玩味的问题,人类的大脑中究竟是什么东西使得他们可以进行真正创造性的活动?无论如何,现在的AI还不具备这样的东西。
除了目前AI的本质是信息重组,它还特别谨慎。它在生成时特别注重内容的周全性,使其不陷入片面。但是,弗洛伊德的力比多决定论、黑格尔的绝对唯心主义和叔本华的意志主义,从某种角度来说都是极其片面的,但恰恰是这种片面性才能成就伟大,而过分讲求四平八稳可能就会导致平庸。
人类过度依赖在本性上不具创造性的人工智能
过去几年,以生成式AI为代表的人工智能逐渐给人类的精神造成重大冲击,而人类也在慌乱之间做出各种反应。最近,中国的复旦大学大幅削减文科师生的比例并大力发展所谓的创新工科,可视为对这种冲击的一种过度反应。中国的许多大学也在推广人工智能普及教育,其中有许多是强制性的或半强制性的。真是奇怪,因为就连站在技术最前沿的各个美国大学都没有做出这种过度反应。
一些文科学者也相继发表大量学术论文,但大多数论文都是属于“如何更好地运用AI”的范畴,而不是对AI本身的反思。现在大有一种不学会使用AI就会被淘汰的趋势。
目前的这种大规模推广和学习几乎肯定会造成大规模的过度依赖。从社交媒体或智能手机的状况就可以看出来了,虽然许多人以为自己对社交媒体和手机的使用可以控制在一个合理的和健康的范围,但实际上许多人都沉迷其中而不自知。微软贴心地把自己的聊天机器人叫做Copilit,也就是“副驾驶”的意思,但即便如此,人类可能还是会过度依赖自己的副驾驶。
许多人认为,可以把AI视为自己的研究助理,而自己就是研究员。这就像现在每个人都有一个可靠的研究生帮自己干活。——这种美好的设想未必能带来美好的现实,因为逐渐地,自己这个研究员可能不只是让研究生来帮自己干活,而是让它帮自己提出idea并写论文了。于是,一开始AI承担的是辅助性的工作,逐渐地它开始承担主要工作。
前面我们已经讨论过,AI本性上是不具有创造性的,所以当AI承担其主要工作而人类不加反思地使用,他们人类的工作也将会是不具备创造性的。
天才的匮乏的加剧
由于各种因素的综合结果,21世纪已经是一个贫乏的世纪,因为我们这个时代缺少天才——商界或许是一个例外。从自然科学、工程学和文科各个领域,天才都没有以前的时代那么多。在自然科学和工程学领域,人们大可说这是由于协作研究的转型导致的;但是在文科领域,人们却不能使用这样的借口了。
一般来说,天才指的是那些具有杰出创造力的人。而天才的匮乏也就是那些具有杰出创造力的个体的缺乏。前面我们已经讨论过,从古至今,人类精神的重大突破是以天才为中心的模式来进行的。这不是否认非天才也就是普通人的功绩,而是说,天才和普通人之间有着不同的分工——普通人往往是天才的追随者、诠释者和推广者。而当我们在谈论那些伟大的名字时,我们就在担任那些天才的追随者、诠释者和推广者。
在今天也是如此,在文科领域,人们往往谈论着那些伟大的名字,尽管那些名字所承载的个体绝大多数都已经死去,而不是正活着的。而这也意味着,我们今天很难在精神世界中取得重大突破了,因为我们找不到那些可以承担这一任务的人。
由于AI的本质在于已有信息的重组,顶多可以模仿,但不胜在创造,而人类在未来时代肯定会大大依赖AI来工作,这使得人类的思维可能会趋同于AI,而这几乎肯定会加剧天才的匮乏和创造力的普遍衰退。
随着人工智能教育的深入,想必很快人类从幼崽阶段开始就要接触AI,他们是否也会因此诞生出跟我们截然不同的世界观呢?但无论如何,就像Z世代或者00后大规模沉迷社交媒体一样,新生代的人类或许也将大规模沉迷AI,而由于AI本性上不具备创造力,那么他们创造力的胚芽或许从一开始就发展不出来了。
所以,AI不仅会加剧天才的匮乏,而且还有带来人类的创造力的普遍下跌。而它的结果就是:
人类精神的大停滞
大停滞指的不是完全的停滞,而是指的难以取得重大突破。创作和发表还会继续,但是不会有巨大进步。在我们这个时代,大停滞已经有了端倪,因为伟大个体大多都已死去,而只有这些伟大个体才能实现重大突破。在接下来,由于AI对生活的干预,我们不仅没有理由相信事情会缓解,而只能相信事情会进一步恶化。这不是一个欧盟式的监管可以缓解的问题。
自然科学、工程学和一部分社会科学的协作研究的集体智慧模式虽然依然能带来推进,但这种模式跟牛顿、达尔文、爱因斯坦之类人物的天才模式所取得的重大突破相比,它们的推进程度是无法比拟的。集体智慧模式胜在广度,而天才模式胜在深度。但问题是,当有天才的时候,往往广度和深度并存;但没有天才的时候,就只有广度而没有深度。毕竟任何一个时代都不缺普通人。
我曾经在《如何走出平庸时代:创立一套完全不同的教育、艺术和科学机构》提出,教育机构是跟天才和创造力作对的,无论它们是如何空喊创新口号的。现在,复旦大学的改革只不过让自己在这个方向变本加厉。当一个教育机构拥抱AI,鼓励学生依赖AI来工作,而它本性上又不鼓励创造力,那么它就跟拥抱平庸就没有多少区别。换句话说,人类不仅没有意识到AI正在给自己的创造力带来危机,反而自己给自己加剧这种危机。
这就是我的预言。
从集体层面来说,事情可能会在AI发展到强人工智能这个环节得到缓解,那时候AI可能将会具备创造力——但这是可能的吗?
从个体层面来说,我建议人们在使用AI的同时要保护好自己的主观性、自主权和创造力,不要过度依赖它,不要让它淹没自己的心灵,否则自己就会变成像AI一样,一个已有信息的重组者,而且你肯定不会做得像它那样好。
【项飙:人文学科日益衰落?缩招不是解决的办法-哔哩哔哩】 https://b23.tv/eiNKjlq
我前几天看到这个切片。
不过对于ai我聊不了太多,我是那种完全没有拥抱ai的传统小猫。ds都没装,如果可以的话我甚至希望其他人通过转述ds或者gpt的答案,而不是直接去看ai的答案(不过百度搜索好像第一条就是ai答案,这个我有的时候会看。但是没把握的时候宁愿更多的打开网页。
比如最近在问路由器问题,自己先去研究,又请朋友帮忙找了比较火的路由器牌子推荐。然后去研究不同品牌路由器的主要参数和功能差别。包括天线数量,频宽,网口,芯片(ax和be)等等吧。我觉得这样的学习花费了很多的时间和精力(甚至超出了我的实际需要),使用ai的人,面对这个问题,我觉得只能做花钱和无条件信任ai。
从我的经验来看,拥抱ai和拥抱互联网是很相似的,都是长辈会觉得,你怎么什么都知道?但是精细化操作,是人最终要面对的问题。还是用之前看到的俄乌战争举例,当只有俄罗斯有无人机的时候是屠杀,可是乌克兰也有无人机的时候,两边在无人机上绑上拖把柄对打。居然又回到了原始社会。
我觉得ai也是一样,人最终将站在ai的基础上更进一步。
对了,想请你评价一下,对我这个回答的乐观程度进行打分喵,我想知道这个回答是否比较悲观?
我没明白你指的是对什么的乐观或悲观?
你主观判断觉得这个回答的情绪是乐观的还是悲观的,或者是一条变动的情绪曲线也可以喵。
我用文字传递情感的能力可能还是不太足够?
没有,我主要是没明白,你指的是对AI改变世界的前景感到乐观还是悲观?这看起来似乎是乐观的。
结论倒是乐观的说,由最近的(接近的事实)推论得出一个乐观的结局喵。ai只是会改变会使用它的人。但是并不一定彻底的改变社会结构。
但是我觉得这是回答对于你所说的,ai会摧毁创造力的部分,去表达的不甚在意的说。人依然可以保持,拥有和训练自己的创造力。也就是对于天才的匮乏和加剧,人类精神的大停滞这两个方面的说。
但是我可能觉得我自己在面对ai这个方面过于的悲观了,保持一种不接受,不接纳的态度。不过前些时候看到关于ai,从哲学等等一直到应用部署层面的研究。我觉得我可能也是会去看那部分的研究而不是ds的实际社会效用?
我暂时也没有想到改变社会结构,但假如对人的改变有一些负面效应,但对我来说已经是比较可怕的的。
所以对你生成文字的厌恶主要是因为1)它有些知识并没有在互联网上得到呈现,这导致AI对它们的理解不深入;2)它是不真实的辞藻堆砌?
我也和一个爱往群里搬ai内容的人讨论过这个问题,昨天,很糟糕,非常多的负面情绪,导致我平板屏幕被压弯了一点,肉眼不可见但感觉得到不是垂直,放在平面上会有一个估计不到0.3mm的缝隙,光从缝隙中透过。
我讨厌的是生成出的文字本身。以及这些文字的病毒式传播。形容的话就是把我的思维打成了浆糊,把我的脑子打成脑浆。
文字我觉得有沉思和沟通两种功能。乔姆斯基认为,文字的根本功能是表达,而不是沟通。那么如果把一个ai生成的内容,当作沉思的对象呢?陷入自我质疑之后,再去翻查资料,最后生气的去指责那个人不该转发这些垃圾。指责他发的东西还不如看贾浅浅。
你总结的另外两点也很对的说,一些跟商业有关的知识ai会去搜索那些自媒体文反复绕来绕去的内容,那也是无用的词藻堆砌的说,或者广告宣传吹嘘洗地。
近期很多自媒体账号也大规模搬运deepseek生成的内容,其中有许多甚至不标注这是AI生成的,这对中文互联网本来就低下的内容质量造成了更坏的影响。
我个人偶尔也会把AI生成的内容展示出来,因为可能觉得特别有意思,尤其是那些身边人很少表达出来的观念。
但总的来说,对于它生产的内容还不能特别认真地对待。
可能我觉得我有点过度不喜欢文字模型了?主要是对于生成文字的厌恶。另一方面是很多知识我觉得依然停留在提问和口授,书籍的阶段,互联网并不存在这些知识,或者研究的不深入。或者不需要/难以通过语言文字表达。
我觉得这对文字失去了一种掌控性,失去了确切的表述能力。就像是堆砌词藻的文学。我不反对堆砌词藻,但是我认为词藻是为了表达更多的,丰富的感受。就像写美食家的议论一样,把对食物的丰富感知和层次体现出来。
作为接收端,同样也像大数据推送一样失去了一种鉴别的能力。
是的,研究路由器这些东西很花费精力。我目前用的是中国移动的RAX 3000M,闲鱼上买的刷好了OpenWRT系统的,感觉还不错。当然,钻研路由器要花费很多时间,我自己就花了非常多的时间。主要是看有没有兴趣,有兴趣就会去研究,没兴趣就没必要。
无条件信任AI是很可怕的,这会导致批判性思维和创造力都大受损害。
项飙的视频切片我看了,标题实在是断章取义了,因为主要内容谈的是建立人文学科的“群众基础”。很好奇他作为一个社会学家为什么只谈人文学科而不把社会科学加入进来。当然,他在视频里没有讲出什么新东西,随便找个年轻人都比他讲得好。
你说到:无条件信任AI是很可怕的,这会导致批判性思维和创造力都大受损害。
感觉这就像彻底的吃工业食品和相信广告宣传一样吧?ai给你的答案并不比广告有什么真实度上的差别?
ai是一个文字模型,那么具备文字批判力的人和不具备文字批判力的人显然会得到不一样的结果?
这并不妨碍前段时间网上看到的那些美国人吃冷冻和罐头食品?我也同意吃这些有损他们的肠胃或者健康,就像ai可能有损精神健康一样?
不过考虑到,批判性思维和创造力仅仅在学术上有用,大概就像中考分流一样,很难说有过多的这种精神对整个社会的发展状态是有益的。?
那么得出的结论也只是ai对于学术可能有一种极大的负面影响,对于重复性劳动,ai不清楚是否有一种正向的影响。
批判性思维和创造力那肯定不仅仅在学术上有用的,甚至在学术上的用处相比于在社会问题上的用处来说,后者要更重要。
对于繁琐的重复劳动,AI肯定是有帮助的,而且这也是现在很多人使用AI的主要用法。
感觉自己的写的东西自己都有点看不懂
我没这么悲观,历史上更加扼杀创新的时代都挡不住天才发光,今天也一样,而对天才来说,不用把短暂生命的大部分时间浪费在广度上,也许能够更加高效地探索深度?要相信天才在AI时代也能比普通人更善于运用AI,我等凡夫俗子不必替天才杞人忧天。
但愿如此!!