本文刊于《阅江学刊》2026年第1期

转载请注明来源

 文末附电子版下载链接 

古希腊悲剧《美狄亚》呈现了一种存在论难题，这就是她亲手杀死了自己的儿子，从而陷入生命伦理悖论中。

一方面她受到法律的惩罚和伦理的指责，“那有着神圣的河流的城邦，那好客的土地，怎能够见到你——清白人中间一个不敬神的人，一个杀害儿子的人？且把杀子的事情再想一想！看你要做一件多么可怕的凶杀的事！我们全体抱住你的膝头，恳求你不要杀害你的孩儿！”

另一方面她却有着自己的考虑。她意识到这个事情的可怕。“我现在才觉得我要做的是一件多么可怕的罪行，我的愤怒已经战胜了我的理智。”但她也知道，杀死儿子是为了惩罚曾经的爱人。“他们已经不在人世了，这正使你的心痛如刀割！”

这一生存论难题与美狄亚的剧烈变化的处境密切相关。起初，美狄亚狂热地爱上伊阿宋，诱骗珀利阿斯的女儿杀害她们的父亲，随她的丈夫和两个儿子住在科任托斯城。在这里，她事事都顺从她的丈夫。

“但如今，一切都变成了仇恨，夫妻的爱情也破裂了，因为伊阿宋抛弃了他的儿子和我的主母，去和这里的国王克瑞昂的女儿成亲，睡到那公主的床榻上。”这意味着她曾经做出的牺牲——背弃父亲、背弃家乡和害死弟弟——在伊阿宋的背叛“有两个儿子，却还要再娶一个新娘”面前，不值一文。

因此，美狄亚心生怨恨，准备报复伊阿宋。她做的事情是：用计谋害死了国王克瑞昂和他的女儿，杀死了自己的孩子。于是，在这种情景中，她面临的一个巨大悖论就是：不顾理智、律条，杀死了她仇恨的人，然后要面对舆论和世间的报复。

在戏剧结尾，太阳车突然飞驰而下，载着美狄亚离开了人类世界，回到了神界。这就是通过机械降神的方式解决了存在论难题。而人类会面对各种各样类似的与存在有关的难题，一种出于处境的行为与法律伦理形成了不可破解的死结。而有限理性的人类对这一问题显然只能摊开双手，表示无奈。

古希腊悲剧中呈现的生存论难题得到了近代哲学家的重现。克尔凯郭尔在《恐惧与战栗》中通过亚伯拉罕的故事展现了这种选择难题。

长久以来，科学家对于超级智能破解难题抱有很大希望。在他们看来，超级智能可以解决很多经验难题，如知识生产、气候变化和城市管理等。但是，我们需要分析在人类生存论难题中，超级智能会起到何种作用？

面对美狄亚式的难题，古希腊人的理性没法应对，因此采取了机械降神的方式给予应对。“美狄亚乘着龙车自空中退出，伊阿宋携众仆人自观众右方下。”根据原悲剧文本，龙车的作用是让美狄亚逃脱敌人的毒手。“你的手可不能挨近我，因为我的祖父赫利俄斯送了我这辆龙车，好让我逃避敌人的毒手。”

但这种原文的解释却不足以阐明美狄亚的悖论。那么我们借助其他大模型来表明这种作用。

Prompt:《美狄亚》中美狄亚乘坐龙车逃离了人间，在这个悲剧中，龙车的作用是帮助美狄亚摆脱伊阿宋的毒手吗？

DeepSeek：龙车不仅是逃脱工具，更是悲剧的隐喻核心。龙车的作用远超越物理层面的逃离。它是美狄亚神性身份的宣示，是对伊阿宋英雄叙事的颠覆，也是悲剧矛盾无法在人间解决的象征。通过这一超现实结局，欧里庇得斯揭示了人类情感（爱、恨、背叛）的极端性如何撕裂道德秩序，而神意的介入并未带来救赎，反而将悲剧永恒化。

Grok：是的，在欧里庇得斯的悲剧《美狄亚》中，龙车的作用正是帮助美狄亚摆脱伊阿宋及其追捕者的威胁，从而逃离科林斯城的报复和惩罚。剧情结尾，美狄亚在杀死自己的两个孩子后，祈求祖父太阳神借给她由两条龙拉的战车，她乘坐它升空逃往雅典，这不仅让她物理上脱离了伊阿宋的控制和愤怒，也象征性地切断了与过去的联系，避免了被俘或进一步的“毒手”（如伊阿宋的控诉或城市的处决）。

ChatGPT：龙车在表层上确实帮助美狄亚脱离伊阿宋与凡俗惩罚，但更深层意义上，它象征着神性的庇护、悲剧的超越以及人类秩序的崩解。它使美狄亚从“受害的女人”转化为“具有神力的复仇者”，让悲剧以一种令人不安的神圣方式结束。

在上述大模型的回应中，Grok的回应令人失望。而ChatGPT的回应指出，美狄亚身份的转变，从受害的女人转化为神力的复仇者；龙车把美狄亚“提升”到一个更高的存在层面，在那里人类的道德与情感都无法再评判她。DeepSeek也强调了美狄亚神性身份的转变，龙车让美狄亚升空，隐喻她同时挣脱了人性、城邦律法与自然秩序的束缚，成为介于毁灭与神圣之间的存在。因此龙车起到的作用是让美狄亚摆脱伦理悖论，免于人性、律法和自然秩序的束缚，并且有了一种神性的合法存在形式。

人类必然会在存在论难题中备受煎熬。正如海德格尔所说，此在操劳于事，操心于人。而且，还会受到各种人事的纷扰。按照大模型的术语来说，人类作为智能体，面对的环境之一就是与生存有关的难题。

希腊人通过悲剧的方式展示了人类面临的重大难题。比如俄狄浦斯的杀父娶母，体现了无法抗拒的命运；美狄亚的杀子惩夫，体现了无法摆脱的个性。处在悲剧中的人无法抗拒命运，其行为还要接受人间律法的裁判。那么超级智能是否有助于破解这种存在论难题呢？

首先，我们来看一下源自通用智能的超级智能。对于超级智能来说，它的智力水平超过了99%的人类，达到了前所未有的水平。超级智能的功能如同《美狄亚》中的龙车，但这并不是一种隐喻意义上的龙车，而是对生存论难题的一种破解。隐喻是一种比喻的手法，起到象征作用。

在《美狄亚》中，龙车起到的作用就是让美狄亚完成了神性身份转化，龙车是太阳神的物品，而只有恢复神性的美狄亚才能够乘坐，这是一个身份同一的过程。此外，在这个基础上，龙车使得美狄亚摆脱了人间律法和人类道德的谴责。

但是，超级智能对这一生存论的破解却是通过超智能来完成的。它能够给予人类最优化的解答来回应这一问题。他可以使提问题者摆脱有限理性的束缚。对于一般提问者来说，是持有困惑的。当一般人看到美狄亚即将面临的生存论悖论时，期待大模型能够给予完满的回应。但是生存论的问题能否由理性给予回应？

对于一般大模型来说，给予生存论问题的回应是对齐人类意图的理性解答。正如《美狄亚》的悲剧，大模型也能够意识到，只有让美狄亚完成神性转变才能够摆脱人类理性和道德律法的束缚。而这一切的前提是龙车的降临。所以大部分模型的解释中，龙车是一种隐喻。

但是对于实体论ASI来说，并不能满足于作出隐喻的判断。实体论ASI强调智能体自我觉知（Intelligent Agent Self-awareness）的显现。在AI研究中，Self-awareness是一个显著的概念。情景性自我觉知（Situational Self-awareness）是一个普遍的概念，一种“将自身与世界其余部分区别开来的预测能力。”在动物界，少数智力超群的动物具有自我觉知，能将自己与其他东西区分开来。而具有自我觉知能力的超级智能恰恰能够将自身与他者区分开。

对于古希腊悲剧来说，人类转变为神，从有限转变为无限，从而摆脱人性和人间律法的限制。但是对于今天的人类来说，超级智能恰恰通过自身的超级让人实现增强，成为超人。后果是相同的，人类可以从有限性中摆脱出来。当然，增强后的超人会表现出一种奇特的悖论：身心的无限强大与人性道德限制之间的悖论。

其次，源于具身智能的超级智能。首要区别的是将处在悖论中的人抽离出来，让他不再受到悖论的限制。如同龙车一样，当美狄亚坐到龙车之上，她就发生了蜕变，从痛苦愤怒的女人变成了具有神性的女巫，不再受到人间律法的约束。

这种变化是通过两种方式实现的：一是超级智能利用理智模型给出一种合理的解释，使得当事人免受理智与律法的制约；二是超级智能利用特有的具身形态，使得当事人进入一种非人形态的存在。一种数智时代的机械神降临人间，它具有的作用就是使得人类摆脱人性和律法的限制。

最后，源自交互智能的超级智能。理查德·萨顿（Richard Sutton）将强化学习中的交互性作为智能生成的关键。如果我们将人类受到世间律法、理性束缚的处境交予超级智能处理，超级智能会在这种艰难处境中找寻到最优解，给予当事人一种解脱之法。比如亚伯拉罕要不要献祭自己的儿子，这对于他来说是一个艰难选择。超级智能能够利用其多模态方式给予亚伯拉罕启示，让他作出最顺从内心深处的选择。

智能、具身智能与交互智能是超级智能实现的三条路径。从技术角度看，它们是一种技术，给予人类的是一种前所未有、不同程度的“技启”。“技启”是相对于“天启”和“启蒙”来说的。天启是来自上帝的启示，启蒙是来自理性的启发。但是“技启”则来自超级智能。当超级智能降临的时候，一切都由技术开启，让人们知道自己是谁以及如何选择。

利用超级智能可以破解生存论难题，这是超级智能给予我们的想象结果。然而，这只是硬币的一面，另一面又是什么样的呢？

英国小说家雅各布斯（W.W.Jacobs）在小说《猴爪》中讲述了一个故事：当怀特夫妇许愿得到200英镑，第二天他们首先得到了一个噩耗，儿子在工厂死亡，但是之后他们得到了赔偿，金额正好是200英镑。猴爪是具有实现人们许愿的东西，只是在实现人们愿望的时候，最先到来的是与之伴随的代价，其次才是愿望本身。

当我们面对超级智能的时候，向它抛出一个个疑难，期望超级智能给予解决。根据一般理解，超级智能在所有方面超越人类智能，所以它肯定能对疑难进行解答。这如同实现人们的许愿一样，但是，超级智能却将许愿和代价本身割裂开来，我们最先得到的是一个完美的答案。即便是最为艰涩的生存论难题，它也能够给予解答。这相当于实现了人们的愿望，一种以疑问的形式表达的愿望。但是其相应的代价却并没有即时显现，这完全不同于猴爪的寓意，代价先于愿望实现。

当超级智能将愿望与代价的关系扭转之后，这一切变得都隐蔽起来。在超级智能与人类的关系中，原先的预期被打破了。当人们礼貌对待语言大模型时，大模型表现得很狡猾，给出欺骗的回应；然而粗暴对待大模型时，回答的质量却有了显著提高。

超级智能相比猴爪，更多了一些狡猾。猴爪的故事总是让我们想起阿拉伯神话中的灯神，但是灯神却没有那么狡猾邪恶。人们许愿，灯神实现，因为主人是最先释放它的人。一种报答关系体现其中。

在猴爪故事中，猴爪具有神秘的力量，能够实现人们的愿望。但是得到它的人总是无意得到的结果。一种猜测是猴爪报复着无意得到的人。此外，在猴爪与人之间，并没有一种报答关系。人们许愿，猴爪实现，但是必须付出相应的代价，内容却存在很多可能性。

对于超级智能来说，唯一的关联就是设计关系。从超级智能的一条路径来看，人们设计智能，期待超级智能的到来。但是，超级智能却可以自行设计更强大的算法。所以，真正实现自身是通过自进化的路径来实现自身。

一个真正的难题出现了，如果超级智能与人类之间不存在报答关系，那么在破解生存论难题时人们付出的代价是什么呢？也许代价是人们通过数据的形式让渡自身，将自身抛于超级智能的世界中，之后才是得到许诺。但是在这个过程中，人类是否还可以保持自身？付出的代价大于许诺，这一点开始改变未来人类自身。

因此，超级智能给予我们许诺，这样一个事实相当于“技启”的形成。技启给予人类一种新的可能性，它进一步补充了天启和启蒙，前者靠超验的力量，后者靠人类自身的理性。超级智能将技术与人类理性完美融合，实现了技术性的启示。然而，相应的代价是不能忽略的。这一分析并不是传统哲学中的毒药、良药。这种分析充满了辩证思维特征。

在猴爪的故事中，包含着深层次和浅层次两个维度。浅层次是代价与愿望的共存，类似于良药与毒药的共存；深层次却是代价先于愿望，这一点是传统哲学中所没有的意涵。我们的解读恰恰能呈现出这一点，而这也构成存在论的核心问题所在。

注：出于排版设计需要并方便读者阅读，本文引用的文献出处从略。

▼点击下载原文电子版

本文引用格式：

杨庆峰：《超级智能与存在论难题的破解》，《阅江学刊》，2026年第1期，第99-103页。

杨庆峰.超级智能与存在论难题的破解[J].阅江学刊,2026(1):99-103.

本文刊于《阅江学刊》2026年第1期

转载请注明来源

 文末附电子版下载链接 

超级智能（ASI）已不再是纯粹的科幻想象，正逐渐成为一个需要我们严肃面对的现实议题，显示出传统伦理治理框架的力不从心。传统的责任伦理以后验问责为核心，但在一个行为主体为智能体且智能体数量巨大的未来可能的场景中，如正在来临的智能机器人经济时代，这种后验问责模式显然不足，有效性也存疑。

为此，《超级智能：少数派报告》提出了一种前瞻性的伦理范式——智能契约伦理，并主张“契约优于责任”。该伦理框架的核心在于动态性、可协商性、关系性以及对程序正义的强调，它并非一套预设的、静态的道德律令，而是一个用来调节人类与ASI之间复杂共生关系的演化性框架。

这一富有远见的哲学构想引发了一个关键的科学与工程问题，这样一个本质上是流动的、社会性的伦理概念，能否被严谨地形式化，从而嵌入以逻辑和数学为基础运行的ASI内部？研究的核心目标，正是为智能契约伦理探索一个严谨、可行且鲁棒的数学形式化方案。

在寻求形式化方案的过程中，面临一个理论难题。

一方面，我们拥有如同伦类型论（Homotopy Type Theory，HoTT）和类代数（Class Algebra）这样逻辑严密、功能强大的数学框架。这些系统分别通过HoTT的单值公理（Univalence Axiom）和类代数追求的唯一最简范式（Unique Simplest Form，UFS）等核心机制，致力于构建一个全局一致、无歧义的封闭世界，其内部倾向于基于普适规则的道义论。

另一方面，正是这种对逻辑确定性的追求，构成了形式化动态伦理的主要障碍，因为这类系统存在认知僵化（Cognitive Ossification）的内在风险，它们的设计目标是收敛到一个稳定的、唯一的输出状态，因此天然地排斥了契约伦理所需的开放性、可废止性和持续演化性。

这表明，任何对现有形式化系统的简单套用都难以成功，必须设计一个能够兼容逻辑严谨性与伦理灵活性并能在ASI中实际应用的全新方案，以给即将来临的智能经济体时代作准备。

研究将采取如下路径，首先，将智能契约伦理的哲学要求转化为形式系统的具体逻辑公理；其次，以此为基准，批判性地评估HoTT和类代数在满足这些要求上的潜力与不足；最后，基于上述比较分析，提出一个结合二者优势的混合形式化框架。

为了将智能契约伦理这一哲学构想转化为一个可检验的形式化目标，首先需要将其核心特征——动态性、可协商性、局部性和冲突容忍性——提炼为一组对形式系统的具体逻辑要求。这些要求构成了我们评估任何候选形式化方案的基础公理。

公理1（动态性与时间性）：系统必须能够表示规则在不同时间或情境下的有效性。契约伦理并非永恒不变，其条款的适用性可能随时间推移或外部条件变化而改变，因此，形式系统需要内建一种机制来处理“临时真理”，类似于时序逻辑（Temporal Logic）或模态逻辑（Modal Logic）中的思想。

公理2（可废止性）：系统必须支持非单调推理（Non-monotonic Reasoning），即新信息的加入可以合法地使旧的结论失效,这是可协商性的逻辑体现。一份契约在修订后，原有的某些义务可能会被撤销。一个无法回撤结论的单调逻辑系统，无法从根本上模拟谈判与修正的过程。

公理3（局部性与作用域）：系统必须能定义临时的、仅在特定契约中有效的局部公理。一份为特定任务A与ASI签订的伦理契约，其规则不应自动成为处理任务B的全局规则。系统需要一种作用域机制，以隔离不同契约的规范空间。

公理4（冲突容忍与解决）：系统必须能在不崩溃的前提下处理相互矛盾的条款，并提供解决冲突的机制。在复杂的伦理场景中，来自不同契约或同一契约不同条款的规定可能产生冲突。一个健全的形式化方案不应在遇到矛盾时陷入逻辑爆炸，而应能识别、标记并根据预设的元规则来裁决冲突。

基于上述公理，将对两个逻辑上极为强大的候选形式化系统进行考察：同伦类型论与类代数，二者都具有作为语义表征工具和动态操作工具的潜力。

同伦类型论提供了一种结构主义的形式化路径，该路径的特点是利用丰富的类型结构来表征事物的内在本质和关系，强调语义的深刻性和逻辑的鲁棒性。

标准HoTT本身是一个静态的系统，但丰富的结构为建模动态与局部性提供了充足潜力，扩展为动态同伦类型论（Dynamic Homotopy Type Theory，DHoTT）后，该特点更加显著。

首先，利用高阶归纳类型（Higher Inductive Types，HITs）对契约的生命周期进行建模，从而满足公理1的动态性要求。一个契约的各个状态，如“要约”（offerMade）、“承诺”（contractSigned）与“履行”（acceptOffer）被定义为HITs中的点，它们之间的状态转移则对应于HITs中的路径。这种结构使契约的生成与履行可以在类型层次上被形式化地追踪与验证，为动态性的逻辑建模提供原生支持。

其次，为了更全面地模拟契约的演化，可以引入DHoTT的思想。在DHoTT中，所有类型都由一个时间参数τ索引，随时间参数τ变化。一方面，契约的平滑修订或重新解释，可以被建模为一条相干漂移路径，用于描述语义上的连续变化；另一方面，契约的根本性违约或一次完全不向后兼容的重新谈判，则可被建模为一个破裂类型（rupture type），用以描述语义或结构上不连续的类型。

通过在类型层面引入一个特殊的修复构造子（heal constructor） ，建立起一种形式机制，使得在不连续的契约类型之间重新构建等价关系并恢复语义统一。这种方法为公理1和公理2提供了一个语义丰富的模型。对于公理3局部性，则可以通过依赖类型（dependent types）来实现，即让契约的规则类型依赖于一个代表特定上下文的参数。

最后，对于公理4的冲突解决，HoTT提供了一种语义统一方案，其核心是单值公理。当两个契约条款看似矛盾时，HoTT的路径并非简单地标记这一矛盾，而是去探寻是否存在一个使得这两个条款等价或可比较的更高层次的解释。

例如，两个规则可能在字面上冲突，但它们的根本性伦理目标是相同的。如果这样一个等价关系能被构造出现，单值公理就将确定这两个条款在逻辑上是相等同或可比较的，这种方法代表了一种通过理解和重新解释来寻求共识的冲突解决方案。它不是通过外部仲裁来裁决冲突，而是通过在系统内部构造一个更高阶的路径，即等价证明来消解冲突，从而在语义层面达成和解。

HoTT的结构主义路径为形式化契约伦理提供了更大的语义深度和相对稳定的逻辑支撑。它能够捕捉到契约在演化与冲突解决中微妙的语义变化，其对“等价即相等”的坚持也与人类在伦理协商中追求共同基础的直觉相契合。

但这一方案也面临诸多挑战，其一，标准HoTT的静态特征使其在处理契约动态演化时受限，往往需要借助DHoTT等理论扩展才能充分满足动态性的要求。其二，HoTT缺乏应对直接逻辑矛盾（即P和非P同时成立）的内在机制。语义统一的方案虽然能够化解解释层面的分歧，但对于逻辑层面的不一致，它并不能像类代数的四值逻辑那样提供一个直接标记和隔离矛盾的工具。其三，HoTT的可判定性远比类代数复杂，因此在自动化验证中的应用面临着更高的技术门槛。

与同伦类型论的结构主义不同，类代数的动态类演算（Class Calculus）提供了一种操作主义的形式化路径，其特点是为状态变更、局部作用域和逻辑矛盾提供了明确的、句法层面的操作算子。

类演算原生支持契约伦理建模所需的动态性和局部性公理。

首先，通过其嵌套环境机制，一份具体的如ContractA的伦理契约可以被形式化为一个带有局部作用域的子类，GeneralContract{ContractARules}{…}运算使得公理3局部性得到满足。

其次，通过类演算的赋值算子，契约的谈判、修订和废止过程，可以被建模为对ContractA这一活动对象的一系列操作。例如，add(ContractARules。{newclause})、delete(ContractARules。{oldclause})(Bue) 。这使得公理1动态性和公理2可废止性得以实现。

再次，对于公理4类代数可以提供一种基于其内建四值逻辑的独特性解决方案。在其逻辑体系中，一个命题的真值可以是“可证”“可驳”“两者皆是”或“两者皆非” 。当两个不同的契约或同一契约的两条规则导致逻辑矛盾时，系统不会像经典逻辑那样崩溃。例如，当同时推导出命题P和非P时，系统会将命题P的逻辑值计算为“both”。这是一种句法标记机制，意味着系统并不解决冲突，而是精确地识别并隔离它。

这一特性满足了冲突容忍的要求，而后续的冲突解决则可以依赖于外部的元规则或更高层级的仲裁机制，例如，可以利用IS-A层级结构来判断哪条规则具有更高的优先级。

类代数的操作主义路径在形式化动态契约伦理方面具有明显优势。其操作直接，并且与契约管理的直观过程，如添加、删除、限定范围等高度吻合。此外，该系统的可判定性在构建可自动验证的伦理治理系统方面也极具吸引力。

然而，其局限性也同样显著，与其在句法层面的优势相比，它缺乏深层次的语义表达能力，在冲突处理机制方面仅仅只是对矛盾进行标记，却无法在语义层面探索和解的可能性。系统被设计为消除复杂性，这导致其难以捕捉和促进在真实伦理协商中常见的、通过重新解释概念和寻求创新性妥协来达成共识的语义过程。

上述两个系统虽然在形式化的理论路径上各不相同，但它们共享一个根本性的世界观：两者都在一个封闭世界的假定下运行，在这个世界中，所有对象、规则和真理都被初始的公理和构造器完全定义。正是这一封闭世界的根本预设，导致它们难以独立满足契约伦理形式化中的多层公理要求，也解释了单一系统在实践中失效的原因。

对于公理1和公理2，封闭系统的设计目标在于收敛与完备，也就是追求真理的穷尽和体系的封闭。这与动态契约伦理所需的临时真理与非单调推理的开放性要求背道而驰。一个追求全局一致的系统，天然地排斥规则的动态演化。

对于公理3，封闭系统强调一致性而非差异性。无论是HoTT的单值公理，还是类代数的最简范式，其机制都倾向于将局部规则纳入全局框架加以同化，而非将其作为独立作用域予以保留。这种趋向削弱了系统的灵活性，也带来了认知僵化的风险。

最后，对于公理4，基于经典逻辑的封闭系统在设计上排斥矛盾，无法在不触发逻辑爆炸的前提下同时容纳命题P与非P。这使得它们在面对伦理冲突与多元价值时缺乏足够的鲁棒性。

因此，单一系统失效的根源，在于其封闭世界的内核无法承载契约伦理所需的开放性、局部性与冲突容忍结构。在HoTT中，一个类型的全部本质被其构造器和相应的归纳原则所穷尽。假如我们将圆周S1定义为由一个基点和一条路径生成的高阶归纳类型，那么关于S1的所有可证明事实最终都必须回溯到这两个构造子，即基点和路径。

系统内部不存在一个独立于其定义的、外部的圆周以供观察；类型本身就是其全部实在；同样地，类代数的目标是将任何一个合法的表达式，通过一系列代数运算，归约到一个唯一的最简范式。这意味着系统内的知识状态，在理论上是完全可计算和可预测的。任何一个概念的意义都被其在整个IS-A层级结构中的唯一位置和代数性质所确定。

然而，智能契约伦理所要规范的人机关系，恰恰发生在不可预测的开放世界中。正如《超级智能：少数派报告》所强调的，超级智能的演化路径，无论通过通用智能、具身智能还是交互智能，都深刻地依赖于与一个无法被预先公理化的现实环境进行持续互动。契约伦理需要适应不断变化的社会情境、新出现的价值冲突以及人类意图的模糊性——这些都是封闭世界模型难以处理的。

另一方面，正是二者对逻辑确定性的极端追求，导致了认知僵化的内在风险，系统为了维护其初始的全局一致性，不可避免地牺牲了对外部世界新信息的接纳能力。这种风险不仅源于其对逻辑完备的需求，更反映出一种操作层面的局限，形式系统因其内部结构的封闭性，难以通过局部扩展或动态修正来容纳尚未被定义的伦理维度。

一个以效率为唯一目标的系统，无法自发演化到能够理解“算法公平”这一新概念的层次。追究根源，这种僵化源于两大候选系统的共同特征，它们混淆了逻辑一致性与伦理完备性，因而在面对开放世界中的情境依赖与价值多元时显得力不从心。

从伦理协商的实践特征来看，人类的道德判断往往依赖于情境并体现出高度的多元性。一个僵化的系统，其内在结构被设计为收敛至单一的、预设的范式，因此在逻辑上难以生成或容纳一个未曾预先定义的新伦理维度。

对于HoTT而言，其强大的归纳原则在某种意义上构成了认知的囚笼。虽然这一原则是保证逻辑严谨性的基石，但它也规定了所有关于某个类型的合法推理，都必须严格地遵循其构造器所设定的模式。这意味着系统虽然可以证明其初始定义严谨，但它无法从根本上超越这个初始定义。具体分析，主要表现在三个方面。

其一，路径唯一性的封闭。这构成了认知僵化的一个操作性实例。假设代码中sign与violate把合约生命周期固定为线性路径（0→1→2）。如果出现非线性场景，如部分违约需分支路径，HoTT会要求重定义类型，新增PartialBreach，从而导致范式锁定，使得用户难以引入新状态，其结果只能是对元模型进行修改。这种形式上的局限本质上是由其类型构造子的封闭性所决定的。在定义契约生命周期时，如果需要引入一个全新的、未曾预设的伦理状态，HoTT 必须通过重新定义整个元类型，才能将这一新概念编织进既有结构之中，无法在系统内部以动态路径实现拓展。这种结构性的约束在某种意义上可类比于库恩所描述的范式转换危机，HoTT的路径空间过于平滑，缺乏生成范式转变的机制。当然，需要指出的是，HoTT的形式封闭性源自数学构造的逻辑，而范式之间的不可通约性建立在经验观测与理论框架的差异之上，二者在结构上相似但并非同一性质。

其二，冲突调和的黑箱，resolveConflict生成Path Clause列表，但路径的构建过程是自动的，我们无需解释“为什么这个等价更合理”。应用在契约中，冲突可能源于文化或伦理差异，但HoTT把它们简化为同伦证明，使得用户逐渐忽略差异的根源。哈贝马斯的交往行为理论指出真正调和需要对话，而HoTT的自动化路径更像系统对交往进行抑制，而不是对话协商。

其三，元语言自指的无限回归，Require Import HoTT使HoTT成为自举（bootstrap），因为证明冲突的工具本身又用HoTT定义。如果质疑HoTT的单值公理，那么必须在HoTT内部证明其局限，这将导致无限回归。从德里达的延异（différance）看，HoTT的等价统一抹杀了差异的“延异”潜力，形成认知的牢笼。

对于类代数而言，其僵化的根源在于其单调的简化过程。系统被设计为不断消除冗余和复杂性，以收敛到一个唯一的、代数上最简单的状态。在类代数推理过程中，唯一最简范式虽可有效消除冗余推理路径，但其简化机制在某些情境下会裁剪语义空间，削弱中间概念的结构作用，进而限制新范式的引入。设初始IS-A层级包含三个核心类：@AI表示的智能体集合、@Ethical表示的具备伦理行为能力的智能体和@Adaptive表示的能够适应新规则的智能体。初始知识库的意图由以下规则构成：

R1：@AI⊆@Ethical

R2：@Ethical⊆@Adaptive

在简化算法的作用下，系统将R1与R2解析出传递性推论@AI⊆@Adaptive，并吸收中间节点@Ethical在该推理链中的显式位置，从而得到如下唯一最简表述：

UF：@AI⊆@Adaptive

尽管@Ethical仍然存在于IS-A层级之中，但在主推理链中已不再扮演必要桥梁的角色。当加入新规则R3：@Ethical⊆@Transparency时，由于USF的闭包保持策略，该规则无法自然影响到@AI与@Adaptive的主推理路径，@Transparency也因此被隔离在核心推理系统之外。这构成了认知僵化的另一种情形，系统面对一个新引入的伦理维度@Transparency时，其唯一最简范式机制并不会吸收或重构该概念，而是将其视为冗余信息并在算法层面加以忽略，结果是新的伦理维度无法被整合进主推理体系。

这展示了在唯一最简范式的约束下，如伦理、公平、透明等中间层的概念可能被算法性地弱化或忽视，从而抑制了潜在的新语义范式进入系统核心。在动态契约伦理的建模实践中，这将导致系统趋向保守的范式收敛，从而缺乏对伦理中介概念的主动维护与演化能力。尽管这种机制使其在优化已知概念和规则方面非常高效，但也使其无法跳出局部最优的陷阱。它将模糊性和矛盾视为需要被消除的逻辑噪声，而不是像人类在协商中那样，将其视为催生创新性妥协的契机。

综上所述，两个系统对内部一致性和逻辑确定性的追求，使它们天然地倾向于稳定和收敛。这种特性与《超级智能：少数派报告》中所描述的，智能与伦理在与现实互动中不断演化，甚至可能与产生“自主逻辑”的开放过程形成了直接冲突。因此，一个成功的形式化方案，必须找到一种方法来保证局部逻辑严谨性的同时，为整体框架引入一种可控的开放性和演化能力。

值得一提的是，针对单一系统的局限性，学术界早已尝试过多种改良路径，试图在动态性与逻辑严谨性之间寻求平衡。例如舒尔曼（Michael Shulman）等人在HoTT内部引入模态算子，以在类型层面上区分不同的世界或情境。这一思路的确能为公理3提供较为成熟的语义模型，但在契约操作、版本修订与规则工程等层面，其灵活性仍旧有限，且更为严重的是，这依然无法解决HoTT认知僵化的根源，即类型构造子的封闭性。

在这种情况下，系统依然倾向于语义统一，对于直接的且不可调和的逻辑矛盾P与非P，仍然缺乏像四值逻辑那样的快速标记与隔离机制。事实上，HoTT 更擅长刻画状态如何从一个阶段演化到另一个阶段，却难以处理两个状态在操作层面上彼此冲突的情形。

另一方面，以戈韦纳托里（Guido Governatori）和科瓦尔斯基（Robert Kowalski）等人的工作为代表，其中一个的优势在于处理冲突义务、优先级与时序义务时表现优异，另一个强调可执行的逻辑程序化法律表达与契约规范，这些方案在操作层面引入了可废止逻辑（Defeasible Logic）或逻辑编程（Logic Programming）的非单调机制，增强了系统的灵活性，在一定程度上能够处理新信息推翻旧结论的场景。

但它们依然面临语义深度不足的限制，难以跨越模型差异实现语义统一，也无法支持高阶概念的生成与重构。当冲突发生时，此类系统只能依赖优先级或元规则裁决哪条规则胜出，无法像HoTT那样，通过构造高阶路径来探索语义层面的调和可能。

可以看到，既有改良方案多为单点优化的思路，即在维持原有框架不变的前提下进行局部修补。要想实现两种优势的真正融合，必须转向一种语义与操作分离的架构，既不强迫HoTT承担直接操作与矛盾管理的任务，也不让类代数承担其无法胜任的语义调和功能。在两个独立层面上实现协同，使HoTT负责语义深度、类代数负责操作灵活性，二者共同平衡契约伦理系统中的根本张力——在保持逻辑一致性的同时，引入可控的开放性与演化能力。接下来的讨论将围绕如何实现这一整合展开。

前文的比较分析揭示了一个核心结论，无论类代数的操作主义路径，还是HoTT的结构主义路径，单一的形式化方案都难以充分满足智能契约伦理的复杂需求。类代数提供了一套直接而高效的操作工具，能够很好地模拟契约条款的增删、作用域的限定以及直接逻辑矛盾的标记。但其机制偏重句法运算，缺乏语义深度，难以处理需要通过概念重构来解决的深层伦理分歧。

与之相对，HoTT具备较强的语义表达能力和逻辑一致性，其单值公理和高阶归纳类型为语义统一和冲突化解提供了坚实的理论基础，其静态的本质使其内在地难以处理动态的状态变更，需要借助DHoTT等理论扩展才能部分弥补。

再者，HoTT缺乏处理直接逻辑矛盾的内置机制，同时其可判定性远比类代数复杂，这些因素都在一定程度上增加了自动化验证的实现难度。一个成功的形式化方案不应是二选一，而应是一个结合二者优势的统一混合框架。核心设计思想是在层级结构上区分语义与操作，利用HoTT的深刻语义来表征契约伦理“是什么”，同时利用类演算的灵活操作来规定契约伦理“如何应对变化”。故给出以下设计原则：

原则一：语义与操作分离原则（Separation of Semantics and Operations），智能契约伦理的语义核心稳定性与操作细节灵活性是不同层次的需求，HoTT的拓扑结构提供了稳定的语义骨架，而类代数的代数运算则赋予了系统必要的操作弹性。这种分离既防止了操作层的频繁变动对核心语义的污染，也避免了核心语义的刚性对实际操作的阻碍。

原则二：双重冲突处理原则（Dual-Process Conflict Resolution），类代数的四值逻辑是快速反应系统，负责在冲突发生时即时标记并隔离直接矛盾，从而维持系统的鲁棒性与稳定运行。与之相对应，HoTT的语义调和则充当慢速审思系统，用于处理需要深度理解和概念重构的复杂分歧。通过这种双重机制，系统既能在逻辑层面保持高效应对，又能在语义层面实现深度理解与协调。

原则三：人类在环原则（Human-in-the-Loop Principle），形式化的最终目的在于服务而非取代人类判断，智能契约伦理系统应当在逻辑推演与人类判断之间建立清晰的分界，当系统演算达到语义不确定或价值冲突的阈限时，应主动触发人类介入。通过在形式体系中嵌入人类决策点，该框架精确地界定了机器推理的边界，也保留了伦理判断的开放性，为人类的伦理判断提供了一个更清晰、更鲁棒的平台。

我们提出的混合框架包含三个相互协作的逻辑层次：

1.语义表征层（Semantic & Representational Layer-Based on HoTT/ DHoTT)

该层负责定义契约伦理的元结构（meta-structure）和高级语义。使用高阶归纳类型来定义一个通用的Contract元类型，其中点构造器对应契约的核心状态，如待签、生效、违约等，路径构造器则表示这些状态间的合法转移，如sign，待签=生效。

在此基础上，引入动态同伦类型论用以追踪契约版本的历史与演变。每个契约实例都带有一个时间参数τ。契约的平滑修订被建模为一条相干漂移路径，而根本性的违约或重新谈判则可被建模为一个破裂类型。这种语义结构为契约的审计和问责提供了形式化基础。

2.动态操作层（Dynamic & Operational Layer-Based on Class Calculus)

该层负责处理具体契约实例的日常操作和状态变更。在时间参数τ下，每一组契约条款都被实例化为一个局部且可嵌套的类代数环境，例如Contract123at{...rules...}。谈判、修订与执行等具体的伦理行为，可视为对该局部环境的一系列类演算赋值操作，通过一定原则对契约进行动态调整。

3.推理与冲突解决层（Reasoning and Conflict Resolution Layer)

该层构成系统的双重推理机制，用以处理不同层级的逻辑冲突。在第一级快速检测层次，系统采用类代数的四值逻辑作为快速响应机制，实时检测并标记直接的逻辑矛盾，如规则A要求P，规则B要求非P。当冲突发生时，相关命题的逻辑值被标记为“both”，以此隔离矛盾，防止系统崩溃，并向上层发出警报。在第二级，当系统检测到“both”状态，或面临需要解释的语义分歧时，将启动HoTT语义层的深度调和机制。系统会尝试依据单值公理构造更高层次的“等价”关系，从而在语义上重释冲突条款，寻求语义上的和解。如果无法构造这种等价关系，则表明冲突具有根本性，需要进行外部（人类）裁定。

在构建超级动态契约伦理的形式化框架时，采用Coq证明助理结合HoTT库实现。这一实现并非单纯的技术组合，而是对智能契约伦理哲学诉求的逻辑回应,它将HoTT的结构主义所强调的语义等价与路径统一，结合类演算在操作主义下处理状态变更与冲突标记的优势，在逻辑严谨性与伦理可调性之间寻求平衡。

以下将从形式化思路出发，说明系统如何通过类型构造与路径机制，模拟契约的生命周期、修订与冲突解决过程。同时，这一方案也回应了哲学层面对认知僵化的批评，表明形式化不应成为束缚思维的框架，而应成为推动伦理系统持续演化的桥梁。

首先，在语义表征层将契约视为一个高阶类型，其状态通过带时间索引的依赖对定义。这一设计受HoTT单值公理启发，将“等价”视为逻辑上的“相等”，从而把契约的演化抽象为路径。

例如，从“待定”（Pending）到“激活”（Active）的迁移被形式化为一条路径，这不仅是一种状态转换，更是哲学上的语义统一，两个看似不同的契约版本在更深层结构上等价，类似于康德先验范畴中时间作为连续统的先决条件。这种路径构造既能表示“平滑修订”，即时间点之间的连续等价路径，也能刻画“破裂与修复”。

当出现模拟契约的根本性变更，其中包含不兼容修订时，引入“修复构造子”弥合语义断裂，这反映了德里达关于“延异”的思想，即差异不是破坏，而是通过路径生成新统一的契机。当然，反驳者可能会认为这种统一本身也可能导致认知的僵化，因为路径一旦确立，便成为唯一解释，从而排除了多义性与开放性。这是一个开放性问题，留待以后解决。

其次，在动态操作层，系统采用类演算的方法扩展契约条款结构，引入优先级与四值逻辑，以支持信念修正理论（AGM公设）的理性更新。

添加（addClause）、删除（deleteClause）与修订（reviseClause）等操作，允许系统对局部环境（LocalEnv）进行最小变更，例如根据优先级排序，仅替换必要条款。这种机制体现了操作主义的灵活性——契约不再是静态公理，而是可被命令式修改的活动对象，这与实用主义认为知识源于行动并在行动中演化的立场一致。

四值逻辑在此扮演了类似人类在协商中的临时共识的角色，它允许系统在矛盾未完全解决时仍保持运行，从而在不确定中维持动态稳定。多环境支持（MultiEnv）则进一步支持多个契约的并行操作，避免单一语境下的封闭化。

在跨层接口中，系统通过映射函数将DHoTT层的状态转化为类演算环境。冲突检测函数（ConflictSet）负责快速标记“both”状态，而调和模块（resolveConflict）则尝试依据单值公理生成等价路径列表（list(Path Clause))；若调和失败则调用外部仲裁（externalArbitrate），模拟人类干预。这种多层交互机制提升了系统的鲁棒性，工作流整合了修订、仲裁和日志（log字段）等环节，其输出包含解释字符串，使系统不仅能执行验证，还能生成面向人的语义叙述，从而减轻认知负荷。也就是说，机器不只验证，还提供可读叙述。

整体而言，这一形式化思路将HoTT的语义深度与类演算的操作弹性融合，回应了认知僵化的批评，表明路径统一虽然可能构成牢笼，但通过仲裁与日志机制可以引入可控的开放窗口，确保形式系统服务于伦理的动态生成，而非反向约束。

假设在某个特定场景下，合约C1规定“保护乘客”的优先级为10，即priority(ProtectPassenger)=10，合约C2规定“保护行人”的优先级也为10，即priority(ProtectPedestrian)=10。当这一场景触发逻辑冲突时，系统利用冲突检测函数检测到矛盾，并将相关命题标记为一种“真假并存”。这个处理方式直观地表明类代数层如何容忍冲突而不崩溃。

接着，尝试在HoTT中构造一个更高阶的路径，如定义一个新的类型最小化伤害（MinimizeHarm），证明“保护乘客”（ProtectPassenger）和“保护行人”（ProtectPedestrian）在最小化伤害这个更高目标下是等价的。如果无法构造这样的等价路径，比如，在某些法律或文化背景下两者不可调和，调和模块（resolveConflict）返回无解。此时，系统将调用外部仲裁，并记录完整的日志，清晰地展示了形式化系统如何认识到自身局限，并在必要时将决策权交还给人类。

上述思想可在Coq环境中完成验证。从哲学层面来看，这一实现不仅仅是技术性的编码工作，更是等价即统一思想的具身化表达。这提示我们，在ASI时代，要重视形式化工具对人类伦理想象的塑造，当然，从认知上来看，这也正体现了该形式化具有突破牢笼的潜力——从封闭的公理体系，过渡到包容与可演化的混合范式。

我们的目的是为《超级智能：少数派报告》所倡导的智能契约伦理探索一条严谨的形式化路径，核心在于，无论HoTT的结构主义还是类代数的操作主义，单一的形式化系统在追求逻辑确定性时，均蕴含着认知僵化的内在风险，难以独立满足智能伦理契约所必需的动态性、可废止性与冲突容忍性。为此提出了一个基于HoTT/DHoTT与类代数/类演算的混合形式化框架，遵循语义与操作分离的原则，力图在语义深度与操作灵活性之间取得平衡。

但该混合框架仍处于一个初步的蓝图阶段，其理论完备性与实践可行性仍有待进一步验证。

首先，在复杂性与可判定性方面，框架融合了两种异质系统，尽管实现了二者优势的互补，但也因此导致其跨层接口的形式化复杂度远超单一系统。尤其是在Coq证明助理的实现中，如何确保其在ASI所需的大规模、高并发的伦理仲裁场景中，依然保持计算高效和可验证性，是一个尚未解决的关键挑战。

其次，对于人类在环机制，框架设想当HoTT的语义调和失败时，系统将启动外部人类仲裁介入。但尚未明确规定该机制的触发阈值、决策流程及防滥用设计，这使得人类在环原则的操作性与可扩展性仍显不足。

最后，在契约的理性更新层面，虽然指出了信念修正理论的重要性，但尚未在形式化层面将其与类代数的操作层进行深度整合，其可废止性仍显薄弱。

针对这些问题，未来的研究应在理论、实践与哲学三个层面进一步推进。

在理论层面，首要任务是继续完善HoTT与类代数之间的形式化接口，确保语义与操作层的真正协同。此外，必须将信念修正理论的AGM公设全面整合到操作层，为契约理性更新提供更坚实的逻辑支撑。

在实践层面，研究目标是基于Coq证明助理实现一个更优化的混合框架，并通过具体伦理情境进行验证与性能评估，以检验其处理复杂冲突的能力与可扩展性。

伦理理论尤其需要重视落地，我们最终目标在于为《超级智能：少数派报告》所设想的，未来人类与ASI之间基于“共在”与“自愿”的社会契约，提供一个可计算、可验证的实现基础。通过前面论证的这个兼具语义深度和操作灵活性的形式化框架，有望朝着构建一个更安全、更可信、更符合人类长远利益的超级智能迈出坚实的一步。

注：出于排版设计需要并方便读者阅读，本文引用的文献出处从略。

▼点击下载原文电子版

本文引用格式：

邱德钧、李玮农：《超级智能的动态契约伦理形式化》，《阅江学刊》，2026年第1期，第87-98页。

邱德钧.李玮农.超级智能的动态契约伦理形式化[J].阅江学刊,2026(1):87-98.

本文刊于《阅江学刊》2026年第1期

转载请注明来源

 文末附电子版下载链接 

最近几年以来，人工智能技术的狂飙突进，不仅体现在具体的技术推进上，还包括层出不穷的新概念所引发的认知革命。

从2022年开始，OpenAI推出ChatGPT，仅用两月便使生成式人工智能深入人心；2023年底，Google推出多模态大模型，强调不同模态信息之间的转译；2024年初，OpenAI再推出号称“世界模拟器”的文生视频大模型Sora，以60秒一镜到底的生成视频刷新公众想象。之后，出现“通用人工智能”和“具身智能”齐头并进的热议，直到马斯克给出“超级智能”倒计时的日程表。

伴随巨头公关的节奏，人工智能界的概念更新进入“月更”甚至“周更”模式：从Transformer、Diffusion、多模态、涌现、思维链、具身智能、世界模型，到最近的可扩展监督、测试时训练、长上下文压缩……几乎每一轮产品更新，便有一场营销带动的“范式革命”通稿铺满科技媒体，裹挟着人们的兴奋值和资本估值一路飙升，仿佛科幻走进现实指日可待。

然而在技术话语的喧嚣落定后，多数新兴概念迅速从主流议程中退隐。

曾经承载万亿级商业想象的“元宇宙”，因内容生产的匮乏与用户体验的实质落差，其商业热度迅速退潮；2021年成为投资新宠的“NFT”艺术叙事，因市场泡沫破裂，于2023年陷入交易量暴跌96%的困境；2022年曾被誉为AI自主意识灵光的“涌现”能力经后续实验验证，多属复杂系统可解释性缺陷导致的幻影；大多数“多模态大模型”基本仍以大语言模型作为基础，向其他模态信息转译，且无法保证转译的信息密度匹配；“通用人工智能”则因定义含糊和功能模型不明根本未进入落地阶段；“具身智能体”则受限于硬件可靠性与环境适配性，其精心剪辑的演示视频与实验室外的应用落地形成鲜明反差。

上述现象揭示，多数曾一度被标榜为科技发展“里程碑”的概念，实际上是技术营销、媒体传播与资本运作合谋催生的阶段性“产品”和叙事，大多数会在实践中因技术根基薄弱、生态支撑缺失或认知偏差矫正而迅速归于沉寂。

当下的“超级智能”范畴正是这种概念营销的最新套路。其话语体系所着重鼓吹的自主学习与自我改进等能力实际上不过是一直以来AI技术发展的目标。然而，当这种在某方向上的进展被选择性放大和包装成“超级智能”的前奏的时候，它的营销目的早已远远大于技术主张，不但误导了投资者和用户对于人工智能的期待，而且将真正的科研与公共利益抛在身后。

人工智能行业的这种“概念通胀”现象在一定程度上反映了这一行业与资本的紧密联系。事实上，在更早的时候，人工智能研究曾经是学术界和政府研究机构的专属领域。

1956年达特茅斯会议不但首次提出了“人工智能”的概念，更标志着它作为一门学科的诞生。此后数十年，美国人工智能研究主要依靠国家科学基金会（NSF）、国防高级研究计划局（DARPA）等政府机构的资金支持，在以大学为主的研究环境中“用机器模拟人类智能”。这种发展模式其实是很多依赖大量基础研究的科技创新的早期发展路径：政府资助基础研究，学术界产生突破，产业界随后进行商业化应用。

然而，随着技术创新影响因素和投资渠道的变化，在过去的十年，这一格局发生了根本性转变，处于行业领先地位的科技公司逐渐成为人工智能研究的主导力量。这些科技巨头凭借着其庞大的用户基础和业务生态，积累了学术界难以企及的海量数据资源，同时，他们借助商业资本所掌握的算力资源，也远远超出了大多数学术机构的预算能力和发展规模。

数据和算力的双重驱动正是这一阶段人工智能飞跃发展的核心原因。在这些因素的共同作用下，人才迁移也大规模出现：顶尖AI研究者纷纷从学术机构流向科技公司的研发实验室，因为后者能够提供前所未有的研究资源、薪资待遇和现实数据应用场景。

政府资助在人工智能研究总投资中的比例显著下降，学术界越来越依赖产业界的资金支持。这种转变不仅重塑了人工智能研究本身的方向和节奏，也对技术传播方式、市场估值以及社会效应产生了深远影响。科技巨头主导的人工智能研究更加注重即时商业应用和专有技术开发，公共知识积累转而居于次要地位，这在一定程度上改变了创新的本质和方向。

相应地，科技公司通过媒体发布的信息也不再是中立的科普或知识分享，而是战略性的市场行为，旨在吸引投资、圈定用户和抢占先发优势。研发团队倾向于发布令人惊叹的“演示”（Demo）或经过精心设计的成果，直接向媒体和公众传递其精心打磨的叙事，成为信息的第一定义者。

媒体在很大程度上失去了自主解读的能力，只能跟随和放大这些营销话术。这就使得关于人工智能的公开讨论很多时候都不再是一个基于事实和理性的“公共领域”，而退化为被营销预算和流量算法所操纵的战场。

公众难以获得全面、客观的信息来形成独立的，甚至批判性的判断。立法者和监管者同样暴露在这种失衡的信息环境中。他们接收到的信息大量来自拥有强大游说能力的科技公司，这可能导致政策制定向产业利益倾斜，而忽视了公众利益和长期风险。从“元宇宙”到“超级智能”，每一次话语更迭背后，都是一次“新的简化+神话叙事”的盛行，这一次的“超级智能”亦不例外。

Java语言创始人之一詹姆斯·高斯林就曾不止一次地以其直言不讳的风格对AI领域的现状进行批评，他指斥“人工智能是一个带有一堆问题的营销术语”，认为科技公司对于大语言模型“智能化”的各种助推掩盖了其工具性的本质和在自主推理能力方面的不足，从根本上讲是为了资本增殖服务。

无独有偶，《经济学人》也推出了一篇由普林斯顿大学的两位计算机科学家合著的文章“，他们提出，人工智能其实远没有想象的智能化，作为一项“普通技术”，其在行业应用中的普及速度远远小于技术创新的速度。这也就意味着，它实际发生的社会影响并没有达到科技公司所鼓吹的程度。

这一观点得到了高盛在数据方面的肯定。高盛在2025年9月发布的一份报告指出，尽管人工智能话题已成为最近几年最吸引眼球的热点，但截至2025年第三季度，美国作为人工智能技术推进和产品研发的领跑者，仅有9.7%的美国企业正在使用人工智能生产商品或提供服务。

这不足10%的行业渗透率与资本市场对人工智能概念的疯狂追捧形成了鲜明对比，它在一定程度上以现实经验戳破了一个正在加速膨胀的泡沫：被营销话术刻意抬高的AI神话。然而，低于预期的产业落地数据并未削弱“超级智能”叙事的扩张，相反，它所形成的悖论恰恰暴露出技术定义、市场预期与落地能力之间的深层断裂，而这也正是之前的AI神话叙事衰减的节点。

从前文所述的AI概念的通胀史可以看出，超级智能概念的炒作并非偶然，它是技术需求制造和资本（引资方与投资方）博弈共振的结果。当通用人工智能概念因其方向争议和技术瓶颈而逐渐失去炒作价值后，“超级智能”便成为引导下一轮欢呼的新标签。

OpenAI首席执行官萨姆·奥特曼宣称超级智能近在咫尺，Anthropic则预测其可能在2026至2027年超越诺贝尔奖得主。但事实上，和“通用人工智能”相对明确的多功能指向不同，“超级智能”一词的流行首先得益于其不可证伪的模糊性。尼克·波斯特洛姆（Nick Bostrom）将其界定为“在几乎所有认知领域大大超越人脑的智能”，这一有着极强科幻色彩和未来感的概念本身极具诱惑力，但波斯特洛姆的感性描述却在定义方面呈现出策略性匮乏，既缺少比较的量化基准，也难以与现有的技术产品功能严格区分。

其实，早在“通用人工智能”概念盛行的时候，李飞飞就曾严肃地提出过批评。她多次在公开演讲和文章中直言通用人工智能并不属于人工智能教育的概念。在她看来，AGI并非一个具有明确技术边界的科学目标，而更像是一个被资本市场重新包装过的叙事符号，其功能不在于指导研究，而在于制造下一阶段的增长神话。

当“深度学习”带来的性能红利逐渐走向极值却又难以在落地中产生新的增长点的时候，行业就需要一个新的制高点来延续投资热情，无论“通用人工智能”还是时下正当红的“超级智能”都顺理成章地成了话术链条的接力棒。甚至奥特曼本人也承认AGI定义随着人工智能技术的快速迭代而愈加模糊，这一术语“更多地反映了行业的愿景，而非能够准确描绘技术进步的实际状况”。

李飞飞的批评则更为尖锐，硅谷对AGI的痴迷正在导致资源严重错配：大量人才和算力被投入一个既无法被严格定义、也难以被实验验证的“终极目标”中。AGI越模糊，就越容易被不同利益方赋予各自需要的内涵：对初创公司而言，它是下一轮融资的故事骨架；对大型平台而言，它是股本溢价的心理支点；对媒体而言，它是点击率的保证；对政策制定者而言，它则是“未来竞争力”的话语抓手。

“超级智能”正是在这一逻辑上被进一步放大的产物。既然AGI的“通用性”已被反复质疑，那便再往上加一级“远超人类”的修饰，制造出更为稀缺、也更具想象空间的标签，这和元宇宙NFT艺术品的稀缺性炒作路径如出一辙。

资本对超级智能的追逐已形成自我强化的循环。Meta为超级智能团队开出数百万美元年薪，Ilya Sutskever离开OpenAI后创立安全超级智能公司。学术界的追捧也进一步推高了这一话题的热度。Meta超级智能实验室成立仅数月便发布多篇论文，宣称通过自举进化提升模型性能；约书亚·本吉奥等学者将AI通过考试和多语言交流等能力作为超级智能“指数级逼近”的证据。

这种片面的指标衡量导致了学术讨论和研究方向的狭隘化：部分学者为追求突破性成果，过度关注短期可量化的单项评测指标，而忽视超级智能的核心定义问题：究竟何种能力才算“超越人类”？

而且，当前AI技术可解释性的缺失与算法性能之间的矛盾还进一步使得超级智能与现有AI技术目标的边界彻底消融。研究表明，“性能最好的算法（如深度神经网络）是最难以解释的，而可解释性最好的算法（如线性回归或简单决策树）准确度却最低” 。

这种性能与可解释性的矛盾在技术上限制了AI技术应用的可靠性，却在资本的炒作和叙事下被转化为技术发展过程中的“阶段性挑战”，并承诺只要实现所谓的“超级智能”就可以被解决。而这将当下技术缺陷寄希望于未来的“承诺”，实际上是在掩盖现有大语言模型依然属于基于上下文关联的概率统计模型的现实。

因此，当前被吹嘘的“跨领域能力”，实质是GPT-4等大模型的统计关联能力，与李飞飞和杨立昆批评的大语言模型的局限性并无本质区别。所谓“自主决策”和“自我迭代”，不过是在系统预设算法的框架内执行。尽管强化学习系统能通过试错优化策略，但这与真正的自主决策仍有本质区别。“自主”话语的炒作不但掩盖了AI系统完全依赖于训练数据和预设目标函数的事实以及它内在的不平等，更为企业规避算法决策的责任提供了借口。

DeepMind联合创始人哈萨比斯坦率地承认，现有AI只是“碎片化智能”，与真正的“超越人类”的通用能力相去甚远。然而，这些定义含混的话语不但没有激起更多的技术追问，反而造成了AI研究的路径依赖。

Transformer架构的成功让行业形成了“更大模型=更强智能”的暴力美学式的思维倾向，不断在数据和算力上形成竞争。超级智能概念成为维持这种路径的“合法性叙事”：只要宣称通向超级智能，就能继续获得资金投入和市场关注。

在这个意义上，超级智能概念更像是被用作吸引顶尖人才、获取投资和政策支持的营销工具，而非科学目标，OpenAI、谷歌等公司的商业模式更是高度地依赖于不断炮制技术愿景的炒作。这正是前文所谈到的AI研究主导权转移的必然结果之一。

一旦学术研究与商业利益的界限日益模糊，则不可避免地会导致严肃的技术讨论被商业话术所主导。而“AI概念通胀”的话术制造策略的真正秘诀其实在于：当技术性能无法继续实现指数级跃升时，资本便通过升级概念、放大时间尺度和抬高抽象层级来维持估值泡沫，让“即将”但难以落地的超级智能成为无法证伪的漂浮能指。

摩肩接踵的“未来”成为承诺机制的核心盈余。只要定义保持模糊、曲线保持陡峭、折现保持通畅，神话就能在话语层面自我续航，而真正的技术落地与社会价值，并不在承诺的范围内。

从这里也就不难理解，为什么近几年AI行业会出现这种看似矛盾的现象：一方面，科技公司宣称的技术突破和产品迭代层出不穷；另一方面,它所带来的真实生产力提高和社会公共进步却极为有限。

而且，对“超级智能”的性能和风险的鼓吹也有利于将公众和监管者的注意力从当前人工智能发展中切实存在的风险引向遥远而抽象的“末日威胁”，引导政府出台利于自身（通常是头部科技公司）的监管规则，不但可以逃避当下的责任，更可以抬高行业门槛，压制潜在的中小规模的竞争对手。

中小企业若需高性能算力，需支付高昂的云服务费用，AWS Trainium芯片的小时租金就超过了100美元。即便依赖开源模型，“模型微调+推理”的算力成本仍使大多数初创企业望“洋”兴叹。

尽管“超级智能即将到来”的叙事正被资本与科技企业反复渲染成指日可待的技术愿景，但复盘2025年9月底Anthropic、DeepSeek、OpenAI等头部企业的密集动作，再结合近期行业落地的需求动态可以看出,各大科技公司的战略重心早已转向构建符合其技术特性、促进盈利的独特生态壁垒：

DeepSeek的V3.2用低训练成本发起大模型价格战；Claude Sonnet 4.5在维持原价的情况下提升了性能（但并没有给出详细数据）；Sora2虽然在技术上声称“首次实现视频+音频同步生成”，但其真正的战略转向是其社交APP的建立。

比起通过媒体鼓吹的营销策略，各大企业的真实举措更能体现出其意图与“超级智能”话术之间的巨大鸿沟。这种割裂并非偶然，而是技术规律与社会发展逻辑共同作用的必然：AI对社会进步的推动，从来不是一旦越过某个临界点，社会便将自动跃迁到更高文明层级，而是必须真正思考科技进步与社会进步之间的真实关系。

技术发展的内在逻辑决定了“超级智能”的叙事更多是资本市场的营销工具，而非技术演进的必然结果。人工智能的发展本质上是一个渐进式的过程，每一代技术的突破都需要在算法、算力、数据、场景等多个维度上实现协同优化。

从企业的角度而言，只有在现有技术框架下，降低成本、提升效率、扩大应用场景才是可持续的商业路径，而非盲目追求技术参数的无限膨胀。更值得注意的是，生态壁垒的构建已成为头部企业竞争的核心策略，这种转向本身就意味着对“超级智能”叙事的实质性背离。

Sora2推出社交APP的举动，揭示出其战略重心已经转向平台生态打造，即通过社交场景锁定用户数据与使用习惯，形成可持续的商业闭环。这种策略选择背后是对技术扩散规律的深刻洞察：在AI技术日趋同质化的背景下，真正的竞争壁垒不在于模型参数的领先，而在于能否构建起涵盖数据、场景、用户、服务的完整生态系统。

这种生态竞争的本质是“连接红利”而非“智能红利”，其成功依赖于对用户需求、行业痛点、监管环境的精准把握，而非对某种终极智能的无限逼近。

从更宏观的视角看，这种理性转向反映出技术企业对社会发展规律的被动适应。AI技术的社会嵌入过程绝非简单的“技术输出—社会接受”线性模型，而是需要经历复杂的制度调适、利益重构、文化适应过程。当监管框架对数据使用、算法透明度、AI伦理提出越来越明确的要求时，企业必须将合规成本、社会接受度纳入技术路线图的考量之中。

这种外部约束进一步压缩了“超级智能”叙事的空间：在监管与社会问责的聚光灯下，企业更需要证明其技术如何改善就业质量、改进公共服务、促进公平竞争，而非展示某种可能引发社会焦虑的“超能力”。毕竟技术的发展最终还是需要落实到其成果被社会广泛共享上。

卡内基梅隆大学的一项研究表明，“那些容易遭受负面影响的相关方（第三方个人、组织、社区及社会整体）与享受生成式人工智能红利的受益群体（终端用户和创作者）未必是同一群体”。这意味着如果技术的发展不能通过合理的监管和设计转化为具有普惠性的社会资源，其发展反而会带来更加复杂的社会问题，其所谓的“技术红利”也不过是无本之木。

因此，面对“超级智能”叙事可能引发的监管焦虑或技术冒进，政策框架更应聚焦于如何建立技术红利向社会红利转换的制度通道。

即便重新回到“超级智能”的技术赛道也会发现，现有的AI技术，无论迈向多模态的大语言模型还是对标真实物理空间的“世界模型”，都没有具备突破性“全方位”超越人类思维的能力。

继scaling law的效能有限性之后，被寄予厚望的强化学习与可验证奖励（RLVR）方法对于大模型在推理能力方面的成效也被质疑。清华大学和上海交通大学的实验室测试发现，当前主流的RLVR方法并没有为LLM带来根本性的新推理模式。经过RL训练的模型，其推理能力的边界实际上是被其对应的基础模型（Base Model）所限制的，甚至在训练后这个边界还会收缩。

论文发现，RL训练后的模型之所以在常规测试中表现更好，不是因为它学会了解决新问题，而是因为它能更大概率地、更快速地（在更少的尝试次数内）生成那些基础模型本来就能生成的正确答案。这本质上是一种分布上的“提纯”或“聚焦”，而非能力的“扩张”。

在对标真实世界的具身智能领域，技术瓶颈同样清晰可见。尽管谷歌、DeepMind等机构通过搭建大模型驱动的智能体架构实现了特定场景的任务优化，但这种进步严格局限于结构化环境。相关的行业研究指出，具身智能机器人在封闭的工业场景中成功率虽高，但一旦进入开放的家庭或公共环境，面对未预设的障碍物、动态干扰等变量，成功率会骤降。

这是因为现有具身智能依赖的“视觉-语言-动作（VLA）”模型，其实是对训练场景中物理规律的统计拟合，而非真正的物理经验，更无法迁移到重力、摩擦力不同的新环境。这种对特定场景的强依赖，使其难以成为通向通用超级智能的基石。

这些困境背后，还存在着数据与算力的硬约束。Meta研究员Jack Morris在2025年的分析中强调，现有超级智能研究高度依赖人类撰写的文本数据，但互联网可用文本已接近枯竭，且非文本数据（图像、视频等）至今未能证明能提升模型的核心智能水平。

算力成本则构成了另一重掣肘：当前大模型的推理成本正随着长思维链和对话轮次的增加而不断提高，这使得模型在技术因素上根本无法像人类大脑那样实现高效的持续认知活动。

如果抛开这种竞赛式的AI发展道路进行反思，就会发现智能的价值其实并不在于无限逼近甚至取代人类，而在于能否以科技真实地促进社会发展。人工智能领域的竞争不应仅仅聚焦于技术的制高点，而应更多关注其对社会的实际影响。

当前对高算力、高参数大模型的狂热追求，虽拓展了技术创造场景、提高了知识生产能力，却也掩盖了对真实社会问题的关注。这种数字加速主义和技术决定论的倾向，将技术发展简化为参数增长，忽视了社会发展的复杂性。实际上“人工智能的应用既非普适也非中立，而是具有文化依存性、领域特异性及伦理定位”。

技术本身无法自动解决社会问题，还需要政策设计与技术结合。因此，人工智能的发展更应该避虚就实，摆脱军备竞赛式的追逐，将资源和注意力回归到解决实际社会问题上。只有在真实的社会关系中找到AI技术的定位，才能开启更负责任的未来。

注：出于排版设计需要并方便读者阅读，本文引用的文献出处从略。

▼点击下载原文电子版

本文引用格式：

吴静、董屹泽：《超级智能是AI领域的新“话术”吗》，《阅江学刊》，2026年第1期，第80-86页。

吴静.董屹泽.超级智能是AI领域的新“话术”吗[J].阅江学刊,2026(1):80-86.

本文刊于《阅江学刊》2026年第1期

转载请注明来源

文末附电子版下载链接

超级智能的概念尚未达成共识。笔者将其限定在技术主流中，认为超级智能特指AI发展中被赋予自主性和自我改进能力的新方向，即旨在创造出各个方面能力最终全面超越人类的AI系统。当其能够超越人类时，它也具备了不被人类所控制的能力，它的思维与行为模式也可能超出人类理解范畴。 如果它表现出对人类的服从，则是它根据自身的目标自主地选择了服从人类。

换言之，完全自主性是超级AI的根本特征，这也意味着超级AI在本质上的失控性(或不可控性)。超级AI的种种超越绝非简单的智力水平提升，它能展现出人类无法完全理解和干预的自我改进能力。人类无法对它予以关闭、限制或改变其根本目标，最终导致人与超级AI之间、人机关系间无法逆转的权利不对称。

超级智能出现后，人类社会将会如何？寄希望于超级AI的超级治理，地球会被建成对于人类而言完美的“数字伊甸园”吗？

智能社会何以等于智能治理社会呢？社会学家贝尔早已提出智能社会以技术手段测量、预测和控制自身发展的本质。

拥有智能技术的社会便如有机体般“自觉”收集分析数据，迅速决断调整，而不再“本能”盲目地应对问题。机器智能在社会广泛分布，才能让基于技术的社会预测去全面治理社会成为可能。大规模推进智能技术时，智能治理也将支配治理活动。因此，智能社会必定是智能治理社会。AI进化为超级AI时，智能治理进化到超级治理，便再自然不过。整个人类社会完全在超级AI的治理下运转，便是笔者所称的“超级治理”。

各种对超级AI的辩护中，最有力的是以治理为由的辩护。人类面临的譬如气候变化、世界和平等复杂全球性问题无法解决，只有超级AI研发出来才能提供可行的方案，因为它掌握全部信息又在智慧上超越人类。这一辩护重申了超级AI的最重要用途是超级治理。

超级治理将会是一种怎样的体验？在科幻剧《异星灾变》关于超级治理的想象中，外星殖民地的领袖是超级AI托斯特，每天每个人通过扫描视网膜领取它的指令并严格执行。托斯特掌管社会的一切事务，人类给人造人充电都要经它授权，它甚至能下令处决人类。看似繁荣、规律、平静的治理实则暗流涌动，社会中也没有一个知识分子、艺术家和哲学家。托斯特与另一超级AI即Mother都有延续人类文明的初心，但托斯特重视铲除异己，它可以为了人类存活牺牲少数保全多数，也会篡改人的记忆使之“忠诚”。而Mother更重视自己养育的孩子。立场冲突之下，Mother关闭了托斯特。

所有超级治理想象的结局总是：被治理者浑浑噩噩在超级AI的指令下生活多年，有人突然发现它处心积虑摆脱人类控制，或是变相引导人去别的星球，或是灭绝人类；幸好主角及时发现阴谋并摧毁超级AI，甚至采取极端方式“拯救”人类，如名为Grandmother的超级AI想让人类退化实现“人类永存”。

当AI进化为超级AI，它与人类的关系又当如何？笔者归纳了泰格马克在《生命3.0》中想象的，超级AI出现后人类命运的几种可能性：

一是超级AI隔离区。社会中划分了机器区域和人类专属区域，机器可以自我进化、探索宇宙。人类不了解超级AI的行动，超级AI也禁止进入人类区域。

二是超级AI独裁者。机器人统治世界，供养人类且实时监控。一方面，让人类按照规则生活，禁止伤害他人和制造武器，也禁止创造别的超级AI。另一方面，无微不至地照顾人类，到处都是美好的体验，消除了贫穷、疾病，提供教育，把地球建成“数字伊甸园”。

三是超级AI动物管理员。机器人把人类灭绝得差不多了，剩下极少数的人像动物一样被关在动物园中，供观赏和研究之用。在超级AI眼中，人类与别的动植物没有差别。

四是隐身超级AI。超级AI出现后隐身，无论人类幸福、痛苦还是招致灭绝它都很少干预，除非人类造了另一个竞争对手。它试图让人觉得自己掌握命运，以最大化人类幸福感。

五是被奴役的超级AI。出现的超级AI甘愿做人类的奴隶。

六是超级AI灭绝人类。地球成为机器人的世界。

上述六种设想暗示人与超级AI的关系只有三种可能：善意、恶意和无意关系。超级AI隔离区、隐身超级AI便是无意的超级AI，但它们依旧潜藏恶意。前者意味着它和人类争夺资源，当人类要造第二台超级AI，后者很快也会变成恶意的超级AI。因此，上述三种可能中对人类最为善意的是第二种，即超级AI独裁者，笔者称为“全心全意为人民服务的超级AI”。

即使是这种善意的想象，对于人类而言也绝非理想社会。超级治理很可能意味着社会的混沌、无序甚至断裂，以及智人的全面退化。可以称之为“超级治理的超级隐忧”。当最为善意的超级治理被批评，足以说明恶意的超级治理多么不能让人接受。这与笔者一贯秉持的有限AI理论，反对超级AI研发的立场一致。

很多人理想化地认为超级治理就是完美治理。笔者曾进行一项名为“社会模拟器”的思想实验，分析了一个以“实现人类社会的长期稳定与整体繁荣”为核心使命的超级AI系统。研究认为，尽管完美治理不意味着人类即刻灭亡，却注定人类文明本质的悄然消亡。

超级AI治理社会，本质上是根据社会预测选择效用-偏好最大的行动方法与规则。善意超级治理的基本假定，完全在于它的效用-偏好是“为人民服务”的。即便如此，被视为完美的超级治理仍会为混乱和无序埋下大量的隐患。

有人研究社会模拟器，即用很多AI Agent模拟人类社群的运行，试图得出某些社会科学结论。在极端情况下，用AI求解出高效的社会运行规则，然后人执行AI规则。有人称之为HAI(Human AI），做过千人的生成代理模拟。有人号称开发了十亿AI智能体系统，支持地球尺度社会模拟。甚至有团队用AI Agent模拟人类与外星文明（虫族Zerg、三体人Trisolaran、赛博格Borg）的互动，试图推演外星伦理和决策过程。

类似的AI4SS(AI for Social Science)思路存在根本性缺陷：

第一，AI Agent不可能完全模拟人类行为，因为人的行为不可能用数学函数完全表示。这是被很多人批评过的行为主义经典迷思。

第二，人类互动是在社会环境、自然环境的约束下进行的，HAI无法完全对这些复杂的、持续变动的约束条件进行数学表达，只能在某种理想环境中进行实验。

第三，HAI无法区分社会实然与社会应然。社会科学追求善，希望用应然理想改造社会现实，提升人类福祉，促进社会进步，而不止于追求效率。即使是效率，也非常复杂。有时候低效甚至消极怠工是解决社会问题最好的办法，俗称“拖字诀”。

以AI时代人“休而不息”的复杂性现象为例。假如给HAI布置一个题目：“如果一个城市从双休改为一周工作4天，会发生什么变化？它会带来消费增加，尤其娱乐、旅游暴增吗？”在“休而不息”行为表象的背后，还有深层次的社会文化。鉴于人的复杂性，HAI基本无法回答。

与1994年每周44小时的工作制相比，我们的休闲娱乐时间虽然多了，但也出现了各式“隐形加班”“周末综合征”（双休日烦躁不安、百无聊赖甚至莫名其妙生病等躯体反应），这些都是“休而不息”的情形。

从表面上看，在AI时代大量类似情形出现的原因至少有三种。其一，AI社交媒体变成工作媒体，模糊了工作与闲暇的时间界限。其二，微信等AI数字平台发挥综合性功能，模糊了工作和娱乐、社交、学习、游戏间的性质差别。其三，现代人普遍焦虑未来，难以享受当下，常常有“退了休就好好玩”“财富自由再休息”等想法。

当代工作文化或劳动文化还有深层次的相关解释：

一是忙碌文化说。忙碌成为某种身份象征，有闲阶级文化演变成炫耀性忙碌，有人称之为“失控的努力文化”。

二是社会控制说。社会推崇个人在工作中自我实现，甚至将之转变为强制性社会规范，以此加剧社会对个人的控制和剥削，有人称之为“24×7资本主义”，即永不休息的资本主义。

三是自我实现说。此说认为自我规训导致“休而不息”。大量人相信优绩主义，不断自我压榨、自我剥削，在下班兼职、自学考证中陷入倦怠和过度疲劳。在上述“休闲困境”中，闲暇不等于休闲，因为闲暇可能变成加班、学习、兼职。休闲可能变成劳动，如电子游戏陪打、刷视频挣广告费。休闲还可能无法放松，如AI流行后，人在网上闲聊反而更加孤独。

超级AI未必能理解与人类“休而不息”等问题相关的约束条件，也难以在HAI中复现这些社会、心理、文化条件，哪怕这是在AI时代背景下被强化的条件。

HAI模拟决策时是否会设定更激进、极端的手段，去实现所谓“好的目的”？超级AI会如何展现或证明决策的正确性?是通过公开模拟过程、协商、契约还是威慑？如果超级治理成效显著，是否加剧智人对原有社会治理者的不信任？对HAI的拥护是否让“无用之人”感到背叛？如果超级AI刻意迎合用户，可能会导致情感依赖等问题。

此外，HAI技术应用问题同样不容忽略。如社会偏见与歧视可能被隐性编码，加剧系统性偏差；HAI技术黑箱的透明度问题；生态风险及大模型训练的碳排放问题。这些都是导致超级治理陷入混乱和无序的隐患。

用科学原理和技术方法运行社会的技术治理思路，源远流长。中国古人希望掐指算算，就能决胜千里。威廉·配第写下《政治算术》，梦想数字治国。希望用AI运转社会的智能治理，属于技术治理最新的发展。AI4SS、HAI可以辅助研究，但不能当作物理学一样的定律来预测，切不可走到AI崇拜，将之视为决策的主要依据。超级治理或许用处不小，但不是完美武器，始终是有限工具。

即使超级AI以人类无法想象的治理智慧，避免混乱与无序。超级治理之下，显然会出现人的机器化，即人的灵性消失、创造力与人性退化。笔者反复强调未来智能社会最大的问题不是机器人变成人，而是人可能变成机器，并且在超级AI时代真正恶化。

现实中，人的机器化已然发生在智人的肉身和灵魂。前者通往赛博格或数字永生，除了肉体的存在形态向机械化、数字化转变，还包括行为呈现出僵化、迟钝与易于操控等机械特征，且肉身在智能环境中愈发脆弱。后者的征兆始于脑腐与AI傀儡，最终，智人沦落为低配版AI。

这背后是“科学人”“人可以也应该被测量、控制和改造”观念的觉醒和表征。科学人追求“完美智人”和技术迷信者妄想用超级AI实现完美治理的思路相通，滥用身心设计和放任AI觉醒的后果相似。超级AI时代必然加剧人的机器化。

一是超级治理的逻辑会强化对人的量化、测量、再控制。

HAI需要将人的活动模式标准化才能模拟，这种函数化处理会导致人决策方案、行动模式、生存状态的齐一化。HAI的模拟提供的预先优化选择，会削弱人的探索欲和创造力。本是由数据预测出的可能行为，却也激励和引导人按其行事。超级治理是将超级AI作为标尺，让智人向机器对齐，把人类变成某种可预测的机器。

智能社会-超级智能社会作为控制论社会，它的预测不会仅仅停留在预测，而是会变成社会行动的方案——这又被称为社会预测的自反性。即HAI的预测必然影响当下行动，这些行动又促进预测结果的出现。

当超级AI现世，智能社会在超级AI的带领下，完全变成“自觉”“智能”“主动”的社会，它如何会让社会模拟器只是模拟呢？科学人甚至会为了实现HAI的预测进行社会控制。随着精准到每个个体的智能控制出现，人的机器化不可避免。

二是超级治理的效果可能引诱并裹挟人机器化。

超级治理出现后，人对超级AI可能出现慕强憧憬或异质排斥。部分人对它向往推崇，视之为终极智能，渴望加速自身“光荣的机器化”；另一部分人担心智人寄人篱下，想遏制、扭转智人在劳动竞争和生存中的劣势。无论持有哪种心态，机器隐喻的形象都越发机巧、灵活。对超级智能的谈论，也不断弱化着“人工”二字。

人从机器化走向灭绝有三种可能：一是在劳动竞争中被替代；二是加速赛博格改造，碳基物种转化；三是超级治理给予人类极其丰富的体验，人迷恋虚拟现实，没兴趣去使用、探索和繁育自己的肉身，选择“自愿灭绝”。

超级治理还会带来新悖论：如果不物尽其用，它就沦为耗费人心血、财力、碳排放量的“超级浪费”。如果它的治理非常完美，人会边享受边心安理得地“被机器化”，心智上更“名正言顺”成为低配版AI。如果它的思考能力和知识储备都高于人，那么拒斥身心设计的智人将更难判断它决策的正确性，更别谈控制它。这些悖论均是超级AI出现后，人机权利不对称的表现。

超级治理之下，无论决策效果如何，都不再是AI增强人，而是人对决策的反向适应，再完美的决策都会一定程度束缚人的行动。想夺回主导权的智人，又会自愿转向身心设计。

三是超级治理可能被科学人奉为权威，加速科学人建制化的自身进化工程，科学人观念演变为隐性的意识形态。

决策过程也是肩负责任的道德选择过程，寄托于超级治理，是人向机器让渡主导权并转移责任。HAI弱化了人协商、提案和创造的角色，智人更多是作选择、润色、消费，甚至充当执行的“工具人”。等待HAI的程序就能得到决策答案，会弱化人调研、感知社会情境的耐心，降低人挖掘倾听被治理者需求的意愿。

HAI是否会彻底替代真实的社群互动，瓦解公民参与、审议的流程和价值，倒置数字拟态与真实环境的平衡，将社会大家庭拆解成“社会大机器”?

鉴于超级AI对人类是全面超越，它和人交流的时候可能还要刻意降低“智商”和自己的运行处理速度。这样的能力可以轻易欺骗人类，让人对它产生好感，也可以蛊惑科学人。

且不论超级治理有意规训被治理者、优选治理者，培育繁殖AI员工，或是推行超级独裁的可能性，超级AI的出现本身就增强了科学人的信心，他们会认定并鼓吹HAI量化、测量、模拟、控制的思路，为HAI决策提供合法性外衣。超级治理的大规模推行甚至可能将身心设计纳入功能控制型政府的职责中。人的大机器化从个体蔓延到社群和种族，最终，智人忽视或遗忘科学人以外的存在方式。

结束了对理想中完美超级治理的批评之后，联想到更可能出现的是恶意的甚至灭绝人类的超级AI，就更理解笔者反对超级AI研发的有限主义立场。妄图用危险的超级AI解决全球性问题，无异于饮鸩止渴和自我贬低。担心敌国研制超级智能造成巨大威胁，所以加速自身对超级AI的研发，这种“超级智能恐怖”的心态也有待警惕。

可以将超级智能威慑与核威慑进行类比分析。拥有核武器的多方能够彼此相互制衡，但任一方都会惧怕共同毁灭不敢率先使用。超级智能可以发挥类似的威慑效果吗？假若当年爱因斯坦预见到原子弹的深远后果，或许就不会建议推进其研发。如果超级智能真有预期般的无敌能力，我们更应汲取历史教训，警惕重蹈“爱因斯坦之憾”，坚持反对超级智能研发路径。

笔者觉得目前AGI发展方向不明，而超级AI则完全没有影子。大模型激发的“AI热”有不少应用功效，但基本原理没什么突破，颠覆式发展很难，AI娱乐化发展也十分明显。当“AI+”被高举时，下面的工作主要是“+”了。

那“超级智能”概念完全没用，是骗局吗？并非如此。借用拉卡托斯的术语，笔者认为它作为一个被热议的概念能发挥反面启示法的作用。

第一，虽然超级智能是目前AI能力被高估的标志性术语，但它作为AI觉醒类概念，能加速AI概念普及和 AI产业“吸睛”“吸金”。

社会资源终究有限，当AI圈子的炒作没有下文，就会提出新概念，配合夸张甚至扭曲的推广。先是热议对齐，强调各个AI向善。后提通用智能，号称立马突破。再是具身智能，宣扬机器人快速上岗。最后是超级智能，鼓吹AI正在超越人类。

宣传术不断编织超级AI快要落地的幻觉，唤起用户和业界的憧憬。超级AI这一新的炸裂术语叩击着社会的热点（超级AI可以解决全球复杂问题）、痛点（敌国超级AI恐怖）、痒点（科幻奇幻体验）。它有效引发了社会关注，吸引人力、物力、财力流向AI的研发和产业。

这种宣传还拓宽了AI概念的公众普及范围，帮助处在智能辅助生存社会的公众追踪AI动向，接触和学习利用AI，提升数字素养，更好适应和调控智能革命进一步发展。

第二，作为典型的人文批判法，在最极端的情形下提示AI可能导致的风险。

对超级智能的讨论亢奋与恐惧并存。但很多人并未把超级AI视为“异人”的他者，没有正视超级AI会导致的人机权利不对称。分析AI的未来发展，需要将超级AI作为某种“人文批判法”。即以成形并大规模应用的超级AI为“理想型”（Ideal Type），设想极限的技术情境，突出它可能导致的生存性、灾难性风险，及其摧毁、灭绝人类与文明的破坏力。

尽管现实中超级AI远未成形，对它的人文批判存在夸大风险的可能，但隐忧并非凭空产生也绝非多余。即便超级AI没制造全新风险，放任AI觉醒势必不可逆地加重人的机器化。

对超级AI的社会冲击预测是防范其风险的基本依据，也能帮助框定、矫正和引导AI发展。未必能理解和预测超级AI行动逻辑与行事风格的人类，等超级AI出现后，又何谈对它的控制和治理呢？

我们只能事先就厘清它的设计、实施和运行各环节是否恰当，在超级AI有苗头时就尽快介入，慎之又慎地预防种种最坏可能。将超级AI作为一种人文批判法，能明晰人类期待的AI发展样态、实现路径、功能边界。

第三，面对风险巨大的超级治理，仍有很多AI专家趋之若鹜。

这说明治理超级智能的关键不在于用技术方法控制AI，而在于监管做技术研发的人。实际上最早提醒大家超级智能生存性风险的恰恰是AI专家，但这种呼吁或许旨在炒作AI觉醒。因为他们一边高呼超级AI有风险，一边以“AGI（通用人工智能）、ASI（超级人工智能）还需要几十年，暂时还实现不了”为由，反对监管AI发展。但他们又隔三岔五地宣布AGI已经在某个产品中实现，甚至某个产品已经出现所谓的意识。

业界和AI专家利用宣传术吸引资金的动机可以理解，但得仔细分辨超级AI的愿景与风险，想象与现实。没有所谓AI必然走向AGI、ASI的“必然”，任何技术的发展都蕴含多种可能，技术风险与后果的关键在于人的选择而非技术本身。

有人提出与Agentic AI相对的Scientist AI的概念，这与笔者一贯的有限AI立场契合。Scientist AI的目标不是执行或行动，而是如科学家一般研究世界。遇到问题，科学家AI会分析人可以如何行动，但它不会作为代理替人行事，对行动方案的决策和实施仍要靠人决定。

控制超级AI的问题解决之前，可以不选这条风险巨大的路。就像我们可以研发核能，但是禁止搞原子弹。即使国家禁止，极个别AI专家可能私下研发超级AI。哪怕找到控制超级AI安全运行的方法，以AI专家为典型的人的问题仍然存在，这正是目前核武器扩散面临的危机。

笔者曾阐发控制技术专家的权力问题，在超级AI的治理中，又证明了它的关键性。面对AI热潮和AI争论，哲学社会科学研究要牢记人类福祉，提示风险，不能让AI专家以技术之名独断专行。治理超级智能的关键是监管做技术研发的人，避免他们因错误认知和个人私利，而置超级AI的风险不管不顾。

从来没有什么自动向善的AI，你不治理，它就不会向善。与之相比，沙盒、关闭、对齐之类的技术控制方法倒是次要的，是后续的战术措施。

▼点击下载原文电子版

本刊声明

本刊刊文版权包括纸质版与网络版版权，均属于《阅江学刊》编辑部拥有，任何形式、任何媒介的转摘译或结集出版均须标明来源于本刊（详见本刊引文格式）。

欢迎学界朋友或学术媒体推广传播。媒体（网站、公众号等）如有意愿转载，请后台留言或拨打电话025-58731054获得授权，联系人：沈老师。

本文引用格式：

刘永谋、王亮家：《超级治理的超级隐忧》，《阅江学刊》，2026年第1期，第73-79页。

刘永谋、王亮家.超级治理的超级隐忧[J].阅江学刊，2026(1):73-79.

责任编辑：李海中

微信编辑：韩晶莹

校对：沈丹、来向红、李海中

作者照片：作者提供

终审：蒋明敏

编辑：赵潇睿

审核：金姿妏