聂智琪：科技终结政治？

一

一九八四年，苹果公司推出了一则广告。画面中一群表情木讷的光头男子正襟危坐，对面的大屏幕上一位“老大哥”正在发表演说，这时一个被一群警察追赶的金发女郎突然闯进来，将手中的铁锤砸向大屏幕。霎时间老大哥消失不见。“你将会看到为什么一九八四不会成为‘一九八四’”——苹果公司最后打出了这一句极具感染力的广告词。显然，乔布斯不仅是在致敬奥威尔的小说《一九八四》，还暗示我们以苹果为代表的新技术将是摆脱其灰暗结局的终极利器。

然而时过境迁，随着算法、大数据和人工智能日益全面地渗透甚至掌控我们的生活，此时回过头来再看苹果公司的广告，就别有一番意味。那块用来监控的大屏幕是被砸掉了，但老大哥真的消失了吗？如今每个人都有一块手机屏幕，它在让我们拥有更多自由的同时，也使我们置身于一个韩炳哲所谓的“透明社会”之中。自由即奴役，这本是《一九八四》中老大哥为了操控人心而发明出的双重思想，如今却有成为日常现实的危险。借助于无数块小小的屏幕，自由与奴役，监督与监控，两者的边界从来没有像今天这般模糊不清。同样是一个关于《一九八四》的故事。二〇〇九年亚马逊因与一家出版社发生纠纷，在未经允许的情况下进入每一个用户的kindle设备，删除了一本书。讽刺的是，那本书就是《一九八四》。

其实早在《我们的后人类未来》中，福山就已修正了之前对技术发展必然促进自由民主的乐观判断，认为当代的新技术与之前的技术有着本质性的差别，若不予以干预，将很可能终结自由民主本身。在他看来，虽然之前的核武器也可能导致人类的毁灭，但恰恰是因为核武器的这种危险直接明了，人们容易达成共识对其进行严格的管控。当代的新技术则不然，其可能造成的危险潜藏于那些巨大的便利之后，让我们欲罢不能，甚至丧失警惕。遗憾的是，在历史终结论赢得一片喝彩的时代氛围之下，福山的这一反思并未引起多少关注。当然福山本人当时的反思也有局限。他过于强调了生物技术的影响，忽视了如今看来可能更为重要的数字技术的冲击。此外，他虽然提倡用政治管束科技，但并没有就当下主流的政治观念和制度本身予以反思。萨斯坎德在《算法的力量》一书中就以略带嘲讽的语气指出，对数字技术的反思若还主要是求助于《一九八四》这样的时代久远的文学作品，这本身就表明我们政治想象力的匮乏。换言之，在人类可能面临颠覆性冲击的AI时代，我们是否有必要重温托克维尔的提醒——一个新的时代，需要一门新的政治科学？

二

数字技术对民主政治造成的挑战，可以从以下两个方面来理解。

首先，民主的主体面临被解构的危险。随着数字技术的发展，我们的想法越来越容易受到操纵。大数据的推送，假新闻的泛滥，网络机器人的假冒发言，都无时无刻不在迎合和强化我们的偏见，操控我们的情绪，塑造我们的看法。如果说信息的过滤与投喂、私下行为的被收集，乃至于“全景敞视”式的网络围观还只是一种软性的控制，那么当AI技术将权力的行使方式从事后惩罚变成了普遍性的事前阻止甚至是预防式的惩罚，就可能形成一种新的“强制”性控制。例如，人们不再会因为超速驾驶而交罚款，因为系统的设置使其根本无法超速。近来法官在判案时也已开始借助AI来预测嫌疑人再犯的可能性，进而给出相应的刑期。凡此种种，都会对我们的自由意志和主体性构成严重挑战。

其次，AI技术在民主政治的运作模式上也正在引发深刻变革。在刚刚过去的二〇二五年，尼泊尔就因政治动荡而产生了人类历史上首位有AI介入的领导人。为了尽快填补民众抗议导致的权力真空，尼泊尔军方破天荒地同意民众在ChatGPT推荐的几位候选人中间进行选举。一位曾经秉公执法的前最高法院女法官被AI列为候选人之一，进而当选为尼泊尔的临时总理。在英国，一位AI公司的老板因不满于传统的代表机制推出了一个以他的名字命名的AI代表。这个AI代表拥有他的声音和外貌，能够同时进行多达一万个对话，选民与它的互动可以二十四小时不间断地进行，由此收集到的所有建议和诉求都被纳入其平台，进而生成具体的政见。

这些AI民主的探索固然在某种程度上推进了民主，但是照此发展下去，民主是重获新生还是会就此终结呢？如果AI比我们这些笨拙又充满偏见的人类更迅捷更客观，那为何要止步于让AI来推荐候选人，而不是直接让其来指定一个政治领导人？如果这一步可行，那为何不索性让AI来直接做决定？就像英国的那个案例，如果民主的主要目的就是及时准确地搜集和聚合民众的偏好，相较于每隔几年才举行的选举，以及可能扭曲民意的人类代表，AI岂不是更胜一筹？

AI可能取代选举并不纯粹是一种臆想。在谷歌设想的智慧城市中，选举就被排除在外了。听上去这不像是一个传统的民主崩溃的故事，因为权力既没有流向少数人，也没有被暴力篡夺。“他并不践踏人的意志，但他软化、驯服和指挥人的意志。他不强迫人行动，但不断妨碍人行动。他什么也不破坏，只是阻止新生事物。他不实行暴政，但限制和压制人，使人精神颓靡、意志消沉和麻木不仁。”一八四〇年托克维尔关于民主社会可能导致一种独特的专制形式的警告，成为照见AI时代的惊人预言。

三

如果政治面临被科技终结的危险，那么理解其背后的推动力量和深层动因就至关重要。一种有代表性的观点认为，AI技术与之前所有技术最大的一个不同在于其是一个主动的行为者。而像原子弹这样的技术虽然也威胁巨大，但是其本身只能借助于人类之手才能产生毁灭性的影响。这就让我们常常将当下技术导致的问题归结为人类与AI这一人造机器之间的冲突。但是剑桥大学的政治学教授朗西曼在二〇二四年出版的《交接：我们是如何将自己生命的控制权交给企业、国家和AI的》一书中提醒我们：要关注那些推动技术发展的传统力量，以及人类已有的历史所可能给我们的启示。在他看来，至少就目前而言，推动AI技术发展的是强大的国家和科技公司。此外，朗西曼意味深长地指出，在AI之前，国家和公司在某种意义上就已经是人造的机器，而我们常常忽视这一点。就此而言，人类历史上其实早就在和各种人造机器打交道，也早就面临如何制约人造机器以捍卫民主的难题。

首先，从国家来说，现代政治的典型形象就来自一张机器人的图片，它是十七世纪霍布斯所写的《利维坦》一书的封面。霍布斯将现代国家描述为一种长得像人一样的机器，这使其区别于古代的政治共同体，因为其运转不需要仰仗我们人类包括统治者的品质，也不需要公民持续不断地积极参与。可见，国家本身就是由人类发明出来的一种机器，是作为一种政治技术而被我们使用的。这揭示出国家和技术之间的隐秘关联。这种关联进一步体现在国家对技术发展的热衷。对于国家而言，要实现有效统治首先就需要了解统治的对象。统计学这个词据说就来源于十八世纪的德语“政治学”。而“控制”一词则来源于中世纪的拉丁语“参照卷轴”，其中的卷轴就是指用作官方记录的纸质文件。因此，像文书、地图等都是作为统治技术而被国家使用的。不过随着国家规模的扩大，这些技术也需要迭代。赫拉利在《智人之上》中就讲述了一个荒诞但真实的故事。在一九七六年的某一天，也就是罗马尼亚刚刚引进计算机不久，计算机科学家约瑟费斯库像往常一样走进自己的办公室，发现一个陌生男子坐在他的工位旁。这个男子随后一整天都在旁边默默地盯着他，还不时拿笔记录他的一举一动。原来他是一名特工。这名特工如此工作了十三年，直到大厦崩塌。当时罗马尼亚有两千万人口，却有约四万名特工，以及多达四十万的线人。但即便如此，靠这些人日夜不停地搜集和分析情报，要想实现对所有人事无巨细的监控也是绝对不可能的。但如今AI时代的到来，或将彻底改变这一局面。

不仅如此，国家甚至会因AI而重拾信心去掌控此前认为难以胜任的领域。在二十世纪七十年代的智利，当时的政府就曾尝试运用控制论的技术收集从全国各地的工厂实时传输回来的经济数据，进而以此为依据来制定经济管理方案。当然，这一计划并没有成功。对此的解释很容易让人想到哈耶克的观点，即只有市场才能有效地利用分散于社会的信息和知识。但问题是，如今有了AI技术的加持，天平是否会摆向国家一边？

国家与AI技术的关联还不仅仅体现在国家对技术的需求，它还可能因为与AI技术的相互强化而威胁民主。在赫拉利看来，由于AI技术的发展极大地依赖于大数据的支持，那些权力更集中的国家更可能在AI技术的竞争中占据优势，因为这些国家可以更不在乎隐私从而更方便地搜集信息。在二十世纪，权力不受制约被视为是政治体制的主要缺陷，如今却可能成为抢占技术高地的主要优势。

其次，就科技公司来说，像Meta这样的推动数字技术发展的大型公司，可能以一种我们并不熟悉的方式侵蚀民主秩序。监控资本主义这一概念的发明就指向这种新型的统治模式。监控的主体不再局限于国家，而是我们每天都在打交道的平台公司。除了监控，这些大型公司还介入了传统上属于国家的权力领域：裁决客户之间的财产纠纷，验证我们的身份，甚至梦想有朝一日能拥有自己的货币。

这些科技巨头甚至可能比国家还难应对，因为公司很难直接受到民众权力的约束。例如对我们日常生活有极大影响的算法因为涉及商业机密而难以纳入监督的范围。此外，那些大型网络公司一方面以一种去中心化的方式容纳巨量的用户，另一方面却在内部管理上可能展现出比国家更集权的特征。《经济学人》就曾用罗马皇帝和埃及法老来形容扎克伯格的权力。这固然有些夸大其词，但是也道出了某种客观存在的事实与危险。

或许也正是因此，用国家来制衡科技巨头看似是一个很合理的选择。现代国家不仅因有民主问责机制而拥有更强的合法性，而且其掌握的暴力机器也使其更有可能管住那些科技巨头。不过也不要低估其中的难度。某种情况下，公司甚至表现出比国家更长的生命。例如大众汽车创立于二十世纪三十年代，在其主要创始性的赞助者纳粹政权垮台后仍得以存续。而到了科技公司的时代，国家面临的是一个更强大的对手。传统的公司还可能因为涉嫌垄断被国家拆分，但是如今的科技巨头生活在对其非常包容的氛围之中，人们对其的依赖也不可同日而语了。此外这些科技公司本身的力量也越来越强大。朗西曼就慨叹，如果扎克伯格只是一个传统时代的皇帝，其实还没那么可怕，因为其在现代的国家机器面前还不是对手。但问题是如今的科技巨头更像一台利维坦的机器。扎克伯格只是这个利维坦的头，其身体则由数量庞大的用户组成。这些用户虽然拥有一定的自由，却不能分享权力。这很类似于霍布斯的利维坦：人们同意产生一个主权者，但不能控制它。

而且与国家相比，社交媒体平台更擅长迎合和强化我们对即时性和短期回报的本能，在服务用户方面也显得更有效率。这就使其在与国家的竞争上更可能赢得我们的认同。谷歌总裁就曾宣称要用公司模式来改造国家，而马斯克更是一度主掌政府效率部，这或许都是在预示AI时代公司与国家融合的某种趋势。值得一提的是，历史上恰恰就出现过东印度公司这样的既经营经济业务又掌握暴力机器的公司类型。只是后来随着社会的变迁，这种独特的公司形态不敌纯粹的国家和公司，最终在十九世纪退出了历史舞台。可是谁又能确保，因着AI时代的到来，兼具公司与国家两种特征的治理模式不会再次出现？

四

可见，仅仅是让国家来管控公司以阻止科技对政治的威胁，是远远不够的。事实上科技巨头与国家在推进数字技术的发展上也存在合谋的一面。从起初互联网的诞生，到如今AI技术的发展，国家都深度参与其中。这当然可以用两者都试图用技术来扩展自己的权力来解释。但问题是，这里是否还存在更深层的动因？或者说，支撑数字技术发展背后的政治观念又是什么？

在二〇一八年出版的《自由主义为何失败》一书中，美国学者德尼恩就提醒我们要从更长远的观念视角来审视当下技术导致的政治危机。在他看来，现代技术诞生伊始就旨在将个体从各种社会联系和所属关系中彻底解放出来。而之所以如此，是因为自从进入现代社会以来，我们日益被那种强调个人要从所有的先天束缚中摆脱出来的自由主义所主导。自由主义推动的技术革命的第一波，是由十七世纪的思想家如培根及其秘书霍布斯等人所倡导的。他们极力反对亚里士多德和阿奎那关于人与自然的关系的古典主张，强调用技术来实现人对自然的超越与改造。到了第二波，曾被视为不可改变的人性也进一步受到挑战，人们也因此热衷于那些可以将我们从生物本性和肉体束缚中解放出来的技术。总之，在自由主义的主导下，技术革命旨在强调人对自然的征服，对人性本身的无限塑造，以及对社群的解构，以此实现所谓的人的解放。

也正是在这一过程中，国家和市场成为自由主义最为倚重的两大力量。市场与个人主义的关联很好理解，那国家为何也成为自由主义技术革命的工具？其实正如社会契约论所揭示的，只有将身处各种社会联系之中的人们抽象为无所依凭的自然状态中的个体，现代国家才能真正地建立起来。同样，如果我们渴望成为被解放的个体，也需要借助于国家来打破我们身上的各种束缚。可见，在自由主义那里，孤独的个体与强大的国家同步产生，且相互成全，两者的共同敌人是横亘于国家与个体之间的各种传统社群。德尼恩认为，国家与个人携手共同推动了一种免于具体责任与社会关系的现代意义上的自由。而这种对自由的理解，最终却可能导致自由本身的覆灭。当下数字技术导致的日益原子化的个人与利维坦的权力宰制，便被视为现代自由主义危机的必然后果。因此，为了从根本上化解当代技术导致的危机，有必要重新反思和超越自由主义，找回曾经构成自由主义源头如今却被淡忘的古典意义上的自由，即由古典思想和基督教思想在数千年实践中形成的关于自由的那种理解：以自治抵抗暴政，以及个人必须通过节制自己的欲望、建立与社群的连接来实现自由。在德尼恩看来，托克维尔提倡的即是这样一种自由，因为他提醒现代人不要错将自由理解为一种堕落的自由，从而忽视了家庭、宗教和社群对自由的重要意义。根据这种观点，熏陶和教化我们道德的那些传统的社会规范和社群关系一旦解体，人们的行为就会日益失范，从而进一步强化我们对法律和惩罚的依赖，这其中就包括运用种种技术来加以监控和管束。因此，自由主义虽然一直强调“有限政府”，但其赋予政府的权力之大足令昔日的专横贵族感到嫉妒。而更糟糕的是，面对当下的技术狂飙，我们自身却早已因为技术的影响而变得日益原子化，以至于失去了对技术的真正掌控。

德尼恩的观点固然让人很有启发，但是他对自由主义的批评似乎有些用力过猛，而且过于强调自由观念的影响，忽视了其他的政治观念。至少对于数字技术可能造成的民主困境这一问题而言，当下对民主的惯常理解也应引起我们的关注和反思。

例如，民主常常被视为是一种聚合式民主抑或是回应性民主，即民主旨在以一种公平的方式对民众的偏好予以聚合和回应。此外，民主对人们偏好的回应应该是快速和即刻的满足，任何的延时都可能被视为是一种伤害。而为了准确及时地回应民众的偏好，政治的运作也应该尽量透明。偏好聚合、即刻满足和透明政治这三者在很大程度上共同主导了当下人们对理想民主模式的想象。也正因此，传统的代议制民主在AI时代愈发显得落伍从而可能被后者所取代。

但问题是，上述这些理解是否完全契合了民主的本意？就聚合式民主观而言，阿罗不可能性定理早就揭示了并不存在完全公平理性的、将众多个体偏好予以聚合的集体决策机制。此外诸如多数与少数之间的平衡、有关道德分歧的价值决断、资源有限下的分配问题等等，这些都不可能仅仅诉诸信息的收集与偏好的聚合就能解决。因此，民主固然需要对民众的偏好予以回应，但是民主的逻辑不应与市场的逻辑混为一谈，而是需要人们在反思自身偏好的前提下进行共同的商谈并做出决策。

同样，民主也不能等同于一种对人们的诉求予以即时满足的“快”政体。朗西曼就指出，通过将时间因素纳入进来，民主意味着对即时满足的拒绝，其深层理念是预设了人性的幽暗，主张用种种的制衡机制来促成沟通、争辩与反思。也正因此，代议制民主其实并非是直接民主的一种次优替代，而是民主自身的必然要求。人们往往将代表视为民众声音的传声筒，以为代表的职责即在于亦步亦趋地反映选民的偏好。如果这中间出现任何迟延都可能被视为对民主的偏离。但是代议制民主的本意并不在此，其目的恰恰是要对抗我们的认知偏见，为即时满足设立障碍，并减缓做决定的时间。所以代表与人民之间、代表与代表之间都需要预留协商、沟通与反思的空间，虽然这也可能是代议制民主常常让人难以心满意足的原因所在。

事实上托克维尔早就洞察到民主的成功运转离不开民众的耐心。这种耐心部分得益于早期资本主义的投资精神，即一种愿意事先付出然后静待未来获利的精神。在此精神的熏陶之下，民众会逐渐养成凡事不急躁、愿意信任和等待的习惯。当然托克维尔也意识到这种精神在民主社会下又不容易长期维持。一方面，商业的进一步发展导致人急功近利，一种急于求快的商业文化可能主导我们。另一方面，崇尚独立的民主人本身就有一种当下主义的倾向，希望超越传统甚至是未来对我们的束缚。显然，在这样一种文化氛围之下，本是作为代议制民主优点的“慢”，就成了制度失灵的标志。

将民主理解为一种时间性政体，也有助于提醒我们审慎地看待对透明政治的追求。当下对速度的迷恋导向一种没有隐私的透明社会，因为只有在这种社会里所有中介都被拆除了，从而能够实现最快的信息流动。在政治上，这种透明试图实现的是对权力的管控。透明也因而被视为是政治信任的基础。但悖谬的是，彻底的透明会消除信任本身，因为信任即意味着我们允许对方拥有自主甚至不透明的行动空间。因此，完全的透明与曝光其实就意味着完全的不信任，而这显然会解构人际关系和社会团结。就此而言，一种旨在实现彻底透明的AI民主，并非民主的福音而很可能是对民主的终结。

看来要破解数字时代的民主政治困境，必须回到最根本的观念层面。然而恰恰是在这里，我们遭遇了技术时代最关键的拷问：我们是否还相信存在一种确定的人性标准？坚守隐私的重要性，承认社会联结的意义，愿意耐心地等待并付出信任，凡此种种都需要我们秉持一种对人性的特定理解。但是数字时代似乎正在朝着相反的方向重塑我们的人性。正如《美丽新世界》所设想的那个软绵绵的专制世界，每个人都健康愉悦地生活，但完全忘记了希望、恐惧与挣扎的意义。所以，身处数字时代的我们，最应该反问自己的是，我们是否还有勇气和智慧坚守那些看似传统的情感和人性准则？

来源：读书杂志