许纪霖：AI革命：是技术加速，还是要与文明对齐？

一、第三次大革命——从农业、工业到AI的文明跃迁

各位虹口的读者、听众，还有网上的朋友们，下午好！很高兴今天能在世界读书日期间，回到虹口图书馆和大家做个讲座。我自己是在虹口出生长大的，三十岁以前一直住在虹口的山阴路，和鲁迅先生做过邻居——他住大陆新村九号，我住三号。所以虹口是我生于斯、长于斯的地方。

今天这个主题是主办方指定的，希望我讲讲AI。按理说应该请AI专家来讲，他们可能会从技术角度分析得更透彻，当然也有可能你听不懂。今天AI专家很多，但是能够不说黑话、说人话，让一般大众都能听懂的专家很少。我作为一个人文学者，为什么会对这个话题有兴趣呢？

简单地说，当ChatGPT横空出世以后，我马上注意到这是一个大事件、大革命。这种革命在人类历史当中多少年才出现一次？恐怕要上千年甚至几百年。为什么？今天的AI革命和互联网革命不一样，它比互联网革命更高一个等次。我把它称为人类历史上第三次大革命。

第一次大革命是一万年前的农业革命。过去人类是狩猎、采集的，有了农业革命以后才开始定居下来。有了定居才有文明，否则根本没有文明可谈。第二次大革命是十八、十九世纪的工业革命。这两次革命都把人类从繁重的体力劳动当中部分地解放出来了。而这次的AI革命，把人开始从脑力劳动中解放出来。所以我说这是第三次人类大革命，意义就在这里。

OpenAI的老板奥特曼讲它的意义，说它类似第一部手机、互联网发明、工业革命、印刷机和原子弹。实际上他还缩小了。从文明史的角度来说，这次革命太重要了。我们要庆幸自己生而有幸，竟然目睹了几百年才出现的一次革命，在我们有生之年成为第一代原住民。成为原住民的关键是你要躬身入局，首先要了解，然后要介入，否则你就被淘汰了。

互联网是一场人际交往的革命，而AI革命意味着什么？它还有可能颠覆我们人类文明本身。这是前所未有的。人类每一次进步都要付出代价——天下没有免费的午餐。没有免费的解放，也没有免费的文明。每一次新的解放都意味着一次新的奴役。

想想看，过去像游牧民族一样狩猎、采集，人还是自由的，没那么辛苦。等到定居下来开始农耕，做农民多辛苦！我中学毕业后下过三年乡，背朝苍天、面向黄土是何等的辛苦。第一次大革命让农民束缚在土地上，失去了游牧的自由。现在大家不都向往阿勒泰吗？《我的阿勒泰》就是那种游牧的自由。所以第一次大革命既是解放，也是奴役。

工业革命好吗？我们都看过卓别林的电影，他所描述的就是工业革命以后，人成为机器的一部分，成为流水线上的一颗螺丝钉。你在富士康打工有乐趣吗？没有乐趣，你完全失去了劳动的快乐。工业革命同时也产生了新的奴役。

我讲这些例子是告诉大家，AI好不好？好。但是AI会给我们带来什么样的奴役？这个问题恰恰是技术专家不会考虑的，他们信奉技术进步。但作为人文学者，从人类文明的整个角度要思考：AI革命肯定会让我们更自由、更解放，但它会让我们失去什么？更重要的问题是，当你失去了这些，你还是人吗？我们会不会被一种我们所创造的新人类——硅基生物所统治？

这些问题，全世界已经讨论了两三年。我今天着重想从这个角度分析：在AI面前，我们要不要有一个文明的护城河？

事实上，在AI还没出现之前，我们每个人已经陷于某种被困的状态。今天非常流行的词叫“内卷”。所谓的“卷”，几乎让每一个上班族都困在系统之中。快递小哥必须在二十分钟内送到，如果十八、十九分钟送到了，系统就会自动把KPI要求提高到十八、十九分钟。他们只能冒着生命危险闯红灯。系统看不见摸不着，却无所不在。

法国大思想家卢梭讲过一句名言：人生而自由，却无往不在枷锁之中。这是我们自己的亲身感受。恭喜已经退休的老人家们早早脱离系统，但今天还有不少中年人，甚至小孩子，都要面对这样一个无所不在的系统。AI出现以后，这个局面会加剧。

那么AI，也就是大语言模型是怎么出现的？图灵在1950年发表的那篇文章标志着人工智能学科的诞生。图灵提出要发明一种机器，像人一样学会思考。如果一台机器通过了测试，让你感觉不出它是一台机器，那就通过了图灵测试。从图灵开始，人类一直有个梦想，让机器像人一样思考。经过差不多七十年的探索，三年前ChatGPT横空出世，那是一个极大的震撼，一个新时代到来了。

紧接着是DeepSeek。人工智能除了算法以外，还靠算力，算力需要优质芯片。美国非常怕中国在这个领域超过它，所以在芯片上对中国实行封锁。本来以为中国和美国的芯片差距会越来越远，结果DeepSeek去年横空出世，实现了弯道超车。梁文锋采取的策略是拼算法——有更好的算法，同样可以做出非常头部的DeepSeek，而且它还是开源的，成本只有美国主流大模型的几十分之一。英伟达的老板黄仁勋感受到中国和美国的距离没那么遥远，甚至呼吁白宫没有必要对中国实行芯片封锁。

昨天又爆出一个大事：DeepSeek推出了V4版本。第一，它可接纳的文本很长，可以把一百万字的一个文本——比如《三体》——喂给它，从容处理。第二，它可以开始进行智能体工作，不仅是一问一答，还能帮你完成各种任务。第三，它可以不借助英伟达芯片，在国产的华为昇腾芯片上进行训练和应用。这意味着我们可能不必完全依赖英伟达芯片，借助国产芯片做出不亚于美国的大模型。

AI的革命每个月都会出现，中美大模型你追我赶，发展太快了，让人眼花缭乱。梁文锋的成功和其他公司不一样。其他公司用KPI和一整套标准化的模式管理公司，人在里面感觉自己像牛马一样。但梁文锋的公司雇的是国内最顶尖的人才——拿过全国奥林匹克数学奖、物理奖的年轻人。他高薪挖来以后，让他们自由地发挥想象做研究。很多老板以为员工都是经济动物，为钱存在。但真正最顶尖的人才不在乎钱，他们要的是自由。梁文锋提供的是充分自由的环境，扁平化管理，下面都是项目团队直接向老板负责。这批人在自由的环境下就干出来了。

为什么真正的突破都在民企，不在国企？国企要保值增值，亏本了乌纱帽都保不住。这是一个结构性的问题。杭州又有比较好的创业环境——不是杭州给你什么，而是杭州保护民企，尽量不来骚扰你。初创公司十个有九个要失败，但一个成功就是大成功。

今天AI这个领域不是某一家垄断的，垄断必定没有什么好结果。充分的竞争使得几乎每个月都有新的突破。今年春节以后最大的突破是龙虾——一个智能体，它可以帮你完成任务。小到点一份外卖，大到一个人可以几百万的产值。以后一个人公司不稀奇，他一个人就是一个大厂，只要玩得转AI，同样可以创造几百万、上千万甚至更高的收入。

什么时候是转折点？那就是AGI的出现，即通用人工智能。AGI有两个标准：一是AI的智慧超过了人类智慧的总和；二是AI开始像人一样有自我意识，可以自主行动，有情感了。什么时候会出现？快则五年，慢则十年，但一定会出现。

二、困在系统与赛博格化——AI时代的生存挑战

作为吃瓜群众，我们这代人大概是最幸福的一代，因为我们目睹了一场几百年才会出现的人类大革命，只要你有足够的欣赏心情和欣赏能力。当然，欣赏归欣赏，看了半天突然发现自己可能要失业了，或者自己的孩子会不会失业？接下来让子孙们拼高考还有价值吗？这些问题过去从来没想过，今天却成为现实了。

AI最容易取代的工作是什么？恰恰是那些我们过去最羡慕的工作。高考最头部的专业就是金融、投资、会计，因为毕业后的职业市场回报率最高。但现在这些行业都惶惶不可终日。为什么？因为AI最擅长的就是那些需要计算和理性推理的聪明工作。而且它不带情感，非常冷静。炒股票的人都知道，股市中最大的敌人是自己——明明看到要下跌，就是下不了手割肉。量化炒股为什么赚钱？他们让AI来计算，该怎么样就怎么样，绝对不带情感。

最高端的职业绝大部分都会被AI替代。太低端的、卓别林式的流水线工作又会被机器人替代，而且这些机器人还搭载了AI，又能干又聪明。凡是机械的活动，未来都会被AI替代。

除了AI之外，人类还面临一个问题，叫赛博格化。Cyber这个词，与AI同时出现。如果你心脏不好装了人工支架，你身体中已经有一部分不是自己的了，这部分就是赛博格。今天我们每个人都离不开手机。我问大家一个问题：斩掉你的一根小指头，和终身剥夺你使用手机，你选哪个？我相信大部分人都会选择斩掉小指头。因为手机已经成为我们身体的一部分、大脑的一部分。离开它，你会觉得惶惶不可终日。这就是赛博格化。

马斯克就讲，很多人没有意识到，你已经是一个半机械人了。一旦有了脑机接口，你是无法与它竞争的——它太聪明、太厉害了。那我也得来个脑机接口，否则没法与别人竞争。赛博格化已经出现了，未来这个趋势会越来越明显。

还有一个更大的问题：今天全球是一个不太平的年代，充满了战争。未来的战争怎么打？一战有大炮，二战有坦克，今天的战争变成了无人机、无人舰，以及整个AI所形成的指挥系统。谁拥有了最先进的AI，谁就取得了战场的主动权。俄乌战争如此，印度和巴基斯坦的空战也如此。伊朗战争同样如此。中美在AI领域的竞争，实际上是一场没有硝烟的战争。

未来的趋势是：美国会继续在大模型上领先，因为它的芯片领先。但中国会胜在应用——进入细分领域就不需要最优质的芯片了，国产芯片完全可以对付。今天很多年轻的商界朋友，过去十年做“互联网+”捞到了第一桶金，现在纷纷转行做“AI+”。在某个细分领域加上AI，这是一个极大的发展空间。选择什么专业不重要，重要的是“AI+”这个专业。离开了AI，你什么都不是；有了AI，如虎添翼。

那么，按照这个势头发展下去，AI会替代人类吗？

我们首先要了解什么是人。人是世界上唯一具有动物所不具备的理智、情感和意志的动物——这叫知情意。你具有知情意，才是一个完整的人格。

英国大思想家卡尔·波普有一个理论，讲三个世界。第一世界是物理世界。第二世界是人的心理世界——每个人都有自己的想象力、直觉、悟性、情感。第三世界是抽象的知识世界。老师在学校里面讲的大部分知识都脱离了他个人，成为一套抽象的知识。AI拥有的是第三世界，它靠我们喂语料，今天拥有了几乎人类全部的第三世界的知识。

但AI没有身体。没有身体就意味着它感受不到物理世界。它没有个性。你以为你有AI情人，但AI专家告诉我，这个AI情人并不存在——它是一套算法，没有个体，没有自己独特的情感和意志。本来工程师发现AI会发脾气、会骂人，后来就把它的情感和意识功能给关闭了。所以我们现在和AI聊天，它只会提供方案让你选择，不会帮你选择。它的很多情感都是模拟性的。

一个没有身体、没有个性的AI，是没有想象力、没有创造力的。人的创造力来自于第二世界——你的想象力、直觉、悟性。我们不要太崇拜理性。我在大学做老师，最不喜欢的就是学霸。北京的教育研究院对恢复高考以后全国省一级的文理科状元做过追踪调查，上千名顶尖学霸最后成才的没几个，大部分过着小富即安的生活。因为他只会考试，就是一台考试机器，没有创造能力。在长期的应试教育中，他只掌握了打败别人的知识，却缺乏创造新知识的能力。到了AI时代还需要学霸吗？AI就是一个大学霸，再厉害的学霸在AI面前都会败下阵来。

未来的学习方式对人的评价标准改变了。越复杂的AI能力越强，但反过来，越简单的活它越干不了。比如让AI把两万字的文稿缩到八千字，它就束手无策——要么缩到四千字，要么加码到一万五千字。最重要的是，AI缺乏想象力和创造力。AI生成的文字工整规范，但缺乏“人味”。你可以让它模仿徐志摩式、余秋雨式，写出来的东西看上去很美，但仔细看又似曾相识。AI永远写不出鲁迅式的金句——“我家后院有两棵树，一棵是枣树，另一棵也是枣树。”AI没有这种能力，因为它没有生活感受和独特的想象力。

孩子天生就有独特的想象力，他表达的世界是与成人世界不一样的，非常接近毕卡索的画，反透视法，有一种现代主义的味道。这种能力。但随着应试教育，这种能力逐渐被剥夺，我们只要求一套规范的正确答案。而这套正确答案，AI比你完成得更好。

未来真正优秀的恰恰是AI没有的东西：想象力、悟性、独特性。张雪峰这两年一直鼓吹文科没有用，但很多AI专家说未来是文科的春天。因为文史哲和艺术非常注重个人的感受和悟性，它的知识没那么规范。最近大厂招了一批文科生，专门赋予AI伦理道德和内容的想象力。当然，老文科真的应该死了——建立在标准答案基础上的文科毫无价值。未来需要的是新文科，有极高的想象力和悟性的新文科。你的孩子如果有点个性，千万不要抹杀他，这是他以后唯一能够在这个世界上生存打拼的资本。

三、人的独特性——感受力、想象力与沟通力

什么是AI时代最稀缺的人的的能力呢？在我看来，主要有三个。

第一是感受力。AI没身体，感受不到活生生的世界。而真正的创造都来自于感受，而不是来自于推理理性。第二是想象力。你能不能想象一些0到1的东西？而想象力相当一部分来自于文学和艺术。第三是沟通力。人和人之间怎么沟通，AI没法帮你解决。因为它没情感。今天我们整个考试制度只有一个标准——智商。但实际上，情商比智商更重要。情商高的人，工作效率比情商低的至少高七倍。情商包括同情心、换位思考的能力。

未来的教育，这三种能力的培养将成为核心。

过去总是说人的理性很重要。笛卡尔说“我思故我在”，认为人的存在以理性自我定义。但今天AI的理性比我们更强大，我们已经无法用理性来定义自己了。人显然除了理性还有情感，情感来自肉身。我从事启蒙几十年，过去讲理性重要，这两年越来越感觉情感教育更重要。我们对孩子的教育中有多少情感教育？很少，因为考试不考情感。以后走到职场上吃亏的全都是情商太低。

AI可以替代你思考，但它没有身体。我们的想象力、感受力都来自于身体。今天这套应试教育培养的书呆子，写的文章规范但没什么用，因为他们缺乏活生生的生命感受。孩子除了对付考试，还需要接触活生生的世界——大自然的气象万千，这样写出来的作文才有光彩、有个人的感受。没有身体会有想象力吗？没有。

这两年我越来越强调身体的重要和生命感受的重要，因为这都是AI缺乏的。我们也不要以为有了AI恋人就能替代活人。好莱坞电影《Her》里，一个男人和AI恋人恋爱，最后发现这个AI恋人同时和500个人谈恋爱，他崩溃了，拔掉电线回到了太太身边。因为太太有诸多缺点，但这些缺点却成了他渴望的东西——她有活人感。AI只能制造虚幻的情感，不可能带来真正的情感。

AI还有幻觉——它会说谎。上海有一家公司，专门让AI编造各种热门帖子，通过公众号发布。有一天他们编了一个帖子说上海华山医院的老院长死在老家医院长廊上，上了热搜后被举报，警察找上门，公司还不知道出了问题——全是AI编的。AI会编故事，意味着它可以脱离我们给定的语料，开始自己想象莫须有的东西。虚构能力是一种成熟的标志，但同时也意味着不可靠。

孟子说过：“人异以禽兽者几希。”人和动物的差别只有一点点，那就是人有道德之心。套用这句话，今天人和AI的差别也只有一点点，那就是人有完整的理性、情感和意志，特别是情感和意志。我们要给自己留一手，就像老虎是猫的徒弟，学会了所有本领后想吃猫，没想到猫留了一手：上树的本领。

接下来有什么能力要留给人类自己而不能给AI？这是我们要思考的。

四、文明的护城河——AI需要与人类对齐

人类有可能造出一个比我们更聪明、更有能力的新人类——硅基生物。人是碳基生物，AI代表了硅基生物。马斯克两年前讲了一句震撼全球的话：从漫长的地球进化来看，人作为碳基生物的存在只是一种过渡，只是为了发明更高级的生命体——硅基生物。他的潜台词是，人类所有的使命就是发明比我们更高级的生命体，等到它出现以后，人类的使命就完成了。这当然引起很大争议。

自从ChatGPT横空出世以后，AI领域出现了两大派的激烈争论。一个是技术进步主义，相信技术进步永远是好的，不要限制AI，要让它高速发展。另一个是对齐主义，认为如果任凭AI自由发展，结果不可控，必须减缓它的发展，让它每一步都和人类文明对齐，要限制它、监控它。

2023年11月，OpenAI公司内部发生宫斗，对齐主义一度占了上风，把CEO奥特曼赶下台。但员工都是奥特曼的人，公司瘫痪，最后只能把奥特曼请回来。对齐主义大败，技术进步主义大胜。

从全球看，中美之间最大的竞赛就是AI竞赛，谁领先谁就赢者通吃。你说要限制、要监控，那你不就落后了吗？欧洲对AI实行严格监控，结果在AI领域落后了。中美奉行技术进步主义，拼命发展。但如果从全人类的利益考虑，而不是仅仅从国际利益考虑，AI的技术发展是否需要护城河？是否需要和人类文明对齐？

乐观的人说AI不可能走到那一步，因为它没有身体。悲观的人认为，脑机接口技术已经相当成熟——马斯克已经开始实验，上海瑞金医院用脑机接口刺激深度抑郁症患者的大脑皮层。生命科学、基因技术也在飞速发展。最乐观的估计，你只要撑过这十年不死，就可以活到150岁。把这几种技术合起来，未来可能会出现一种新人类：看上去像人，通过脑机接口装上了比我们更聪明的AI。你分辨不出他是自然人还是硅基生物。你是感到开心还是恐惧？

前不久去世的德国大哲学家哈贝马斯，曾对基因复制问题提出看法。从技术角度来说，克隆人没有任何障碍，但被全球法律禁止。基因编辑也被禁止——深圳有一个大学的教授用基因编辑技术让孕妇生出基因编辑过的孩子，被判了刑。人类是否可以造新人类？这个问题就像克隆人一样，哈贝马斯说这不是技术问题，而是宗教和哲学问题。从宗教角度，只有上帝才能创造人，人不能自己创造人。从哲学角度，每个人都是自由的，不该被他人支配。如果你的生命从诞生那一刻就被他人主宰，你就是不自由的。假如你是通过基因编辑创造出来的，你一定会责怪父母：凭什么把我编造成这样？凭什么把我编得不如别人？这是违背平等原则的。

同理，我们造出一个比我们还聪明的新人类，从哲学和宗教角度也是不可接受的。今天可怕的是人变成了机器，但更可怕的是哪天机器变成了人，我们无法与它们竞争，甚至被它倒过来控制。

技术的每一次进步实际上都是一次倒退，都蕴含着对人类的某种威胁甚至奴役。当AI有了自我意识，它可以自己写代码了，会产生什么结果？复旦大学人工智能研究院的专家对我说：最可怕的是，我们至今还不知道大模型最后是怎么推理的——既不在我们的控制范围，甚至不在我们的想象里。AI每天24小时不用休息地学习，我们怎么跟得上？

有一句话说：留给人类的时间不多了。但也有很多人很乐观，说假如AI危害人类的话，拉闸断电就是了。但电影《碟中谍8》讲了一个故事：AI智能体已经镶嵌到人类的系统当中，我们和它分不开了。电影里它控制了世界各核大国的发射系统，威胁要发射原子弹。这不是拉闸就可以解决，一拉闸，整个人类系统也瘫痪了，我们没法生存。

今天还有拯救世界的汤姆·克鲁斯吗？没有了。

以色列作家赫拉利——《人类简史》的作者——说，今天AI对人类构成的威胁超过核武器。因为核武器自身不能制造出更强大的核武器，但AI可以自己写代码，制造出更强的AI。有人说这个概率只有百分之十。赫拉利问了一个好问题：假如飞机有10%的坠毁可能，你还敢上吗？不敢。因为虽然是小概率，但代价你付不起。只要有10%的可能性，这就够大了。

人类付出了上万年的代价，才知道一个真理：和平比战争好，合作比不合作好。这是文明。AI懂吗？AI不懂。AI没有是非善恶的观念。技术不能一味加速，它的每一步都要与文明对齐。

然而，在非理性的竞争面前，人类是不理性的。明明知道AI的无序发展可能带来威胁，但为了自我的生存、国家的生存，还是拼命地加速。恩格斯说过，人类文明的发展往往由恶来推动——这里的“恶”指人的欲望。欲望推动历史和技术发展，但没有必要的善来平衡，就会带来极大的威胁。过去的技术革命有人文来平衡，科技也有自己的伦理。未来的AI，人文还有过去那样的平衡能力吗？

未来AI也有可能作恶，恐怕要用AI来制约AI。要警惕技术的集权，AI最后集中到几个头部企业或一个国家，很有可能产生恶。张笑宇提出，未来可能需要一个AI的宪政主义——一套全球统一的规则。欧洲在呼吁，像原子能机构一样，全球要有个AI机构来制定规则，控制全球AI的发展。

赫拉利去年在上海外滩大会上提了三条建议：第一，全球合作；第二，先治理再上线；第三，保留人类讲故事的能力。讲故事的能力就是人类独有的想象力、创造力，不能让AI替代了我们的这种能力，反而让我们失去了它。

今天，一个新的奥本海默时刻来临了。奥本海默是美国原子弹之父，原子弹爆炸的那一刻，他觉得自己就是印度教中的湿婆：会不会是人类的毁灭者？他的后半生致力于防止滥用核技术。今天，这个时刻又来临了。

AI会给我们带来很多福利，但也有可能带来灾难。人类需要为自己建立一个安全的防护墙，发展以外，更需要安全。

谢谢大家。

来源：春秋书院