[Agent 考古] 意图编辑权:从 BDI 到 LLM Agent,谁有权决定机器何时停下来

Under the Sun with Paddy

系列名称:意图即承诺,智能体即社会——自主性的第一个可计算答案

篇号:第 9 篇 / 共 11 篇 主题分类:观点评论 前置阅读总览与阅读路线 · 意图即带承诺的选择 · BDI 从理论到工程 阅读时间:约 27 分钟


意图编辑权:谁来决定智能体做什么、何时坚持、何时放弃

2023 年,AutoGPT 的 README 里写着一句让所有用户都会心一笑的警告:这个程序“可能永远跑下去”(may run forever),官方认可的终止手段是 Ctrl+C。三十三年前的 1990 年,Cohen 和 Levesque 在 Artificial Intelligence 期刊上用两行条件回答过同一个“何时停”的问题:agent 在相信目标已达成、或相信目标永不可能之前,不放弃cl1990。一个跑在千亿参数上,一个跑在模态逻辑里,但它们争夺的是同一件东西——谁有权替 agent 写下“放弃”这两个字

这个东西,本系列把它叫做意图编辑权:决定 agent 做什么、何时坚持、何时放弃的权力。它是贯穿前面八篇(以及提前引用的第 10 篇)所有故事的那条暗线:合同网争夺的是任务分配的编辑权,KQML 争夺的是对话资格的编辑权,TouringMachines 与 INTERRaP 争夺的是慎思时机的编辑权。本文是本系列唯一的观点总结篇,把八条线索收拢到一张桌面上,看这场拉锯从 1958 年打到 2026 年,究竟前进了几步、又在哪里原地踏步。在收束之前,我们还要完成一次跨越两个系列的焊接,把阶段二终章留下的“自止”之问,焊接到 PGOAL 的放弃条件上。

先看这场拉锯的起点,和那次几乎没人察觉的权力转移。

麦卡锡的祈使句,与一次悄悄发生的权力转移

1958 年,McCarthy 在 Advice Taker 中提出了一个至今回响的愿景:让机器自行推导该做什么mccarthy1958。但在那个年代,“自行推导”的地基是人写定的:每一条 if-then 都是程序员手写的祈使句,机器只负责执行,不负责决定做什么、何时坚持、何时放弃。人持有全部意图编辑权。谈不上设计缺陷,这就是那个时代对“机器”的全部想象。

三十二年后的 1990 年,Cohen 与 Levesque 发表了”Intention Is Choice with Commitment”cl1990(意图的概念底座来自 Bratman 1987bratman1987)。他们用 PGOAL→DECIDING→INTEND 的定义链给出了形式化答案:意图是对行动的持续性承诺,agent 在相信目标已达成或相信目标永不可能之前不放弃。PGOAL 的放弃条件全文一致只有二支,即 believes achieved 或 believes impossible,在论文 p232 的定义、p235 的解释、p239 的定理、p247 的结论四处彼此印证,没有第三个出口。

这是一次历史性的权力转移,而且安静得反常。在 McCarthy 那里,“何时放弃”由人写定的规则决定;在 C&L 这里,“何时放弃”变成了 agent 自己的判断——只要它相信目标尚未达成且并非永不可能,它就持续坚持。意图编辑权第一次从人手上部分移交给了机器:机器获得了“持续承诺”的义务,终止则受二元约束的管束。没有发布会,没有宣言,转移就发生在四个定义和几条定理之间。

我们的复现实验验证了这套承诺机制的持久性。在 Little Nell 场景中(见第 1 篇实验 1),英雄的持续目标是“救出 Nell”:从时间步 1 到 5,agent 持续推进行动,跑向 Nell、到达、抓住、拉离轨道、火车驶过,信念逐步累积,但持续目标始终保持“持续中”状态,没有提前放弃。直到步骤 6,”nell_rescued”进入信念库,PGOAL 的 UNTIL 条件 BEL(x, p) 满足,目标状态翻为“已达成”,意图随之终止。六个时间步的信念演变,把“承诺”两个字从哲学名词变成了可观测的状态机。

围绕这次转移,意图编辑权可以拆成三个层层递进的问题。做什么——agent 的目标和计划从何而来,是人预设的还是自主生成的?何时坚持——遇到障碍时,谁决定继续坚持还是切换策略?何时放弃——agent 在什么条件下可以终止一个意图,谁定义这些条件?在阶段三的谱系里,这三个问题各有归属:C&L 1990 回答了“何时放弃”(二元条件),PRS/dMARS 1987-1998 回答了“做什么”(计划库由人预设,栈调度归 Agent),R&G 1991/1995(盲目/单一心智/开放心智是旋钮)。而当代的 AutoGPT、LangGraph、o1/R1,各自把这三个问题的答案推向了不同的极端。这是后话,先看承诺本身是怎么建造起来的。

承诺的建造:从模态算子到数据结构,再到一条没人走通的直线

C&L 的核心策略,是不给意图一个原始模态算子,而用信念(BEL)与目标(GOAL)两个已有算子复合定义意图。定义链有三层(见第 1 篇):PGOAL(持续目标,Definition 3.13,p232)四条件——现在相信 p 为假、目标是将来 p 为真、不相信 p 永不可能、UNTIL 直到相信 p 已真或永不为真才放弃;DECIDING(Definition 4.4,p235)——把“做 a”作为持续目标,且此刻尚不相信 a 必将发生;INTEND——意图就是“做某行动的持续目标”。承诺性从 PGOAL 的 UNTIL 条件直接继承,不需要额外的承诺算子。

这套定义有一个容易被低估的精妙之处:副作用免疫。C&L 的定理(p240)保证:意图做某行动不蕴涵意图做其全部可预见后果,因为 INTEND = P-GOAL(HAPPENS a),而副作用 B 是另一个不同的命题,两者之间没有逻辑桥梁。复现实验验证了这一点(见第 1 篇实验 2):agent 意图做 A,信念库中存在“A 的可预见副作用 B”,但意图栈中不出现 do_B(intentions.contains("do_B") 返回 False)。回头看,这个“不承诺追踪全部后果”的设计,后来被证明是对某个深层难题的结构性防御——本节末尾和自止一节都会回到它。

C&L 给了逻辑底座,PRS/dMARS 给了工程实现,四代演化清晰可辨(见第 2 篇)。PRS 1987prs1987:信念库 + 目标 + KA 过程库(调用条件 + 计划体两件式)+ 解释器 + 进程栈;意图是隐式的:“一个进程栈(装有所有当前活跃的 KA),可视为系统当前的意图”,那个“可视为”是关键,意图并非显式存储的数据结构,它只是对运行时进程栈的诠释视角。R&G 1995rg1995:抽象解释器四组件(选项生成→慎思→执行→意图处理)+ 三种承诺策略 + 实用化三让步(只存基文字信念、以计划库表示手段、意图隐式表示为计划运行时栈)。AgentSpeak(L) 1996agentspeak1996:外部归因,即 BDI 三态度在已实现系统中是数据结构、不是模态算子。dMARS 1998dmars1998:计划六组件(调用条件/可选 context/计划体/维护条件/成功内部动作集/失败内部动作集)+ 触发事件四类型 + 六选择函数固化 + 意图显式化 + Z 操作语义。

阶段三由此给出了它的核心分担结构:计划库由人预设,栈调度归 Agent。dMARS 规范的原话是:“agent 完全不做第一性原理规划……计划全部由设计者在设计时生成。agent 所做的规划全部是情境敏感的子目标展开,且推迟到子目标被选中执行之时。”计划库是预编译的过程知识,agent 在运行时只做子目标展开,不做从零搜索。这条路线与 STRIPS 分道扬镳strips1972:STRIPS 的规划器从算子库出发做前向搜索,即使没有预存计划也能搜出解;PRS/dMARS 走了相反的路,代价是实时性换覆盖。复现实验把代价量得很准(见第 2 篇实验 2):触发事件为 engine_broken,计划库仅含 rescue 计划,无匹配计划,事件在队列中始终未被消费,agent 四个时间步纹丝不动。“不做第一性原理规划”的精确工程含义就是——覆盖盲区即死局,没有兜底的通用规划器。

但四代演化铺了十一年,有一条直线始终没画通。AgentSpeak(L) 的自认写得很直白:“理论与实践之间仍有巨大鸿沟。主因是定理证明与模型检查的复杂性……因此已实现的 BDI 系统趋于把三大态度作为数据结构而非模态算子来使用。” 这不是抱怨,而是承认:BDI 工程早已数据结构化(PRS/dMARS 在跑),算不动的是形式语义的定理证明和模型检查。它留下一句被反复引用的“圣杯句”:“BDI agent 研究的圣杯是证明这种一一对应(模型论/证明论/抽象解释器)在一种足够有用且足够有表达力的语言中成立。”三十年来无人完成:C&L 的 INTEND = P-GOAL(HAPPENS a) 是模态算子定义,dMARS 的意图是计划实例序列,两者的语义对应从未被形式化证明;R&G 的承诺策略终止条件是可能世界可达性约束,dMARS 的六选择函数是确定性算法,策略到函数的映射从未被证明保持语义。工程在跑,理论没跟上。

给“什么是 agent”立锚的是 Wooldridge & Jennings 1995wj1995 的双层定义。弱概念是行为层面的描述性定义:自主性、社会性、反应性、主动性四性质,不要求任何特定内部结构;强概念在四性质之上增加心智状态约束,即用知识、信念、意图、义务来概念化系统。两层之间同样横着一条鸿沟,复现实验踩的就是这条沟(见第 3 篇失败实验)。agent 的信念库包含 P 和 P_implies_Q,通过分离规则自动推导出 Q,后承数量从 2 涨到 3,这正是可能世界语义下的逻辑全知问题;W&J 讨论的三种补救(Levesque 的显式/隐式信念二分、Konolige 的局部演绎模型、元语言方法)没有一种成为工程标准。

综合线索 A 的四篇工作,意图编辑权的分担结构在阶段三的精确形态如下图:人持有计划库和承诺策略的旋钮,Agent 获得选计划入栈、子目标展开、放弃判定的执行权。

Image

图中那条从 H2 到 A3 的边最值得注意:三种承诺策略是旋钮,控制 agent 在多大程度上容忍世界变化——但旋钮的刻度由人在设计时选定,agent 不能自行切换策略。复现实验把三档旋钮的行为差异量得很清楚(见第 2 篇实验 1):

策略完成步数t=2 行为切换方式
盲目承诺未完成(卡死)步骤失败,不重虑不切换
单一心智5 步步骤失败后被动切换被动(失败后)
开放心智4 步主动检测 context 失效后切换主动(失败前)

盲目承诺卡死在第 2 步:t=2 到 t=7 反复重试同一失败步骤,这正是 R&G 所说的“仅终止于成功”,过度承诺导致 agent 永远卡死;单一心智损失一个时间步,开放心智再省一步。旋钮的旋向决定了 agent 的自主程度:盲目承诺把编辑权完全交给计划库,开放心智把编辑权部分收回 agent。但请注意边界——agent 获得的是执行期适应权,不是策略选择权。承诺造好了,接下来看它如何被推广成一个社会。

社会的扩张与断裂:五步协议、四种仲裁、三个部署,和一门没有语法的语言

1981 年的合同网contractnet把“任务分配”重新表述为“合同协商”,第一次把“社会性”工程化。五步协议(招标→投标→中标→报告→终止)的核心贡献,是论文原话里的那次视角切换:

“It is useful to adopt the perspective that the messages are statements in a language, rather than, say, patterns to be matched” ——把消息视为语言中的语句,而非待匹配的模式,是有益的。contractnet

角色动态互换是合同网最反直觉的设计:管理者和承包者只是角色,并非固定的节点类型——一个节点可以同时持有多个合同,作为某些任务的管理者、另一些任务的承包者;承包者还可以分解子任务并转包。复现验证了协议五步全程走通(见第 4 篇实验 1):6 个节点、2 个管理者、4 个承包者,协议在 t=0 即完成全部匹配,14 条消息(2 招标 + 8 投标 + 2 中标 + 2 报告)。但囚徒困境实验(同篇实验 2)揭示了协议的根本局限:局部最优和 1.7 不可达,实际贪心产出 1.1 低于全局最优 1.6。论文自己承认:“最好的全局分配未必来自所有最好局部分配的简单拼接。”

这个缺口在 1988-1990 年被三篇论文从三个方向填补(见第 5 篇),四种仲裁形态合观如下:

仲裁形态论文谁仲裁依据什么谈崩了怎么办
招标裁决合同网 1981管理者裁决投标评估程序无兜底
均衡约定Z&R 1989zr1989无外部仲裁者个体效用 + Zeuthen 策略冲突交易兜底
第三方效用重写PERSUADER 1988persuader1988调解者(非裁决者)案例先例 + 信念结构 DAG修理准则保证收敛
分层行为协调D&M 1990dm1990预设权威值全序行为六维空间区域重叠沿行为维度避让

复现验证了其中的关键机制:PERSUADER 的信念传播路径 wage_raise → labor_cost → production_cost → employment 找到支点,工会 wage_raise 重要性 6 < employment 重要性 8,论据成立;Z&R 的 Theorem 9 在混合交易下成立:不存在有利的安全谎言,复现中纯交易下有利谎言存在(True)、混合交易下不存在(False)。但四种形态合观的关键发现是苦涩的:1990-1995 的实现里,完全不依赖设计期预设的仲裁机制并不存在,Z&R 预设了效用函数,PERSUADER 预设了信念结构(由两位执业联邦调解人提供),D&M 预设了行为六维。真正的动态仲裁(效用元推理、学习层、动态权威分配)在三篇原文中全部位于 future work。

联合意图理论随后被三个系统带进三种截然不同的部署域(见第 6 篇)。STEAM 1997steam1997:直升机仿真 + RoboCup 足球,决策论通信选择性 EV(通信) = λ(1-Pmt)·Cinc vs Cmt。复现中 cautious 队产生 558 条消息(论文基线 538),balanced 队仅 18 条(论文区间 12-26),通信节省 96.8%;加一条终止条件即完成战术修改,通用团队计划零改动。ARCHON 1995archon1995:葡萄牙电网(24 座变电站、37 条输电线)+ CERN 加速器(377 块主磁铁),合作层包装遗留系统“无需任何重写”;但协调开销随 agent 数非线性增长,单 agent 纯性能更优,多 agent 的回报在弹性。OASIS 1992oasis1992:悉尼机场空管仿真,65 架进场航空器、时间跨度 1.5 小时,PRS 计划库声明式条目:域策略与元级计划同为条目,人类择案、机器生案。三个系统共享一个诚实边界:“谁写计划库”仍是人工——系统只负责“如何协调执行”,不负责“知道该做什么”。

社会线最后落到通信。1993-2001 年间,Agent 通信语言经历了从 KQML 到 FIPA 到 JADE 的规范演化(协议层的技术分析见第 7 篇)。KQMLkqml1997 的三层分离架构,即消息包(performative + 保留参数)、内容语言(:language)与本体(:ontology),至今仍是 Agent 通信的设计范式,36 个保留 performative 按三类组织:Discourse 18 个、Intervention and Mechanics 7 个、Facilitation and Networking 11 个。FIPA 把 KQML 的单一 facilitator 拆为三个强制组件:AMS(白页 + 生命周期)、ACC(消息路由 + IIOP)、DF(黄页)。JADE 作为 FIPA 合规中间件“处理一切非 agent 内部特有的事务”jade2001,但它对认知内核的态度很明确:“我们产出了一个非常通用但原始的 agent 模型……复杂的 agent 模型如 BDI 和反应式架构可以在我们的‘原始’agent 模型之上实现。”BDI 不是规范内容,不是中间件职责,只是“可以外挂的一种架构”。

然后是断裂。复现直接验证了 KQML 的方言分裂(见第 7 篇实验 2):方言 A 使用 ask/tell/advertise/broker,方言 B 使用 query/reply/register/recommend,A 向 B 发送 ask,B 理解 False;B 向 A 发送 query,A 理解 False,两个方向都返回 understood: False。JADE 1999 首尔互测的失败更深刻:“通过的多数测试”不是全部,失败根源不在 agent 的认知能力,而在 FIPA 规范自身的定义不完整。而 1997 年 2 月的 KQML 修订提案自我声明”This document is not the official new KQML specification”。到 1997 年 KQML 仍无权威定版,FIPA 却已经发布了自己的 ACL 规范;两个标准化努力在同一个时间窗口并行推进,KQML 1997 提案全文无一字提及 FIPA。这是方言分裂的温床。

Image

图中右下角那个节点是本节的伏笔:所有系统都跑在孤立的利基中,从未真正互操作。这背后的毛病超出了“规范还不够完善”的级别,是后面 MCP/A2A 一节要宣判的结构性问题。社会线到此扩张到了它的极限:协议齐了,理解没来。

设计者手雕的门控:反应与慎思的和解,签在设计时

Brooks 1986 的包容架构留下一道裂缝:如果智能不需要中央表征,那慎思往哪里放?PRS 1987 用计划库和进程栈做了一次折衷,但仍是单一解释器轮转——不是真正的并发架构。1992-1993 年,两篇技术报告给出了两种结构迥异的混合答案(见第 8 篇)。

TouringMachines 1992(横向并发)ferguson1992:三层独立连接感知与行动,即反应层 R(硬连线情境-动作)、规划层 P(局部路线规划)、建模层 M(他人意图模型);censor 规则在时间片首过滤感知,suppressor 规则在时间片尾过滤输出,层间无固定压制链,胜负取决于运行时情境。INTERRaP 1993(纵向分层)muller1993:四子模块纵向堆叠,即世界接口(独占感知行动)、BBC(反应行为模式)、PBC(局部规划)、CC(联合计划);称职驱动上交,模块自认能力不足时把任务上交给上层。

复现在同一场景下对比了两种架构(见第 8 篇实验 1),t=4 的复杂冲突(近距障碍物 + 来车)是关键对比点。TouringMachines:R 说“减速备刹”(优先级 5.0),P 被 censor+suppressor 规则屏蔽,M 说“礼让来车”(优先级 6.0),最终 M 胜出,因为设计者给“礼让来车”分配的优先级更高;但规划层被抑制了,负责绕行的 P 被设计者的静态规则关掉了,结果是 agent 礼让来车但不绕行障碍。INTERRaP:BBC 发现有来车、自认不胜任、上交 PBC;PBC 发现有障碍物 + 来车、需要多方协调、上交 CC;CC 制定联合计划“先制动礼让来车再绕行障碍”,两个威胁都被纳入计划。同一情境,两种结局,差别全在仲裁的形状。

把阶段三所有仲裁机制放在一个谱系上,“设计者之手”的痕迹一目了然:

仲裁来源系统何时回到慎思预设程度
设计者手工雕琢的 if-thenTouringMachines门控规则预设的情境触发编译时完全固定
模块自评称职不足INTERRaPBBC 不胜任时自动上交运行时情境驱动(但判据预设)
管理者评估程序合同网投标评估程序裁决设计期预设评估程序
协议内生均衡Z&R个体效用计算驱动效用函数预设
第三方调解者PERSUADER信念结构 DAG 找支点信念结构预设
行为六维空间D&M区域重叠检测六维预设
运行时选出权威INTERRaP 跨 agent“选出其中一个 agent 充当调解者”权威值全序预设

谱系的一端是 TouringMachines 的完全编译时固定,另一端是 INTERRaP 的运行时情境驱动。但即使是最动态的 INTERRaP,“什么算不胜任”的判据仍然是设计者编写的。称职驱动比静态门控更动态,但不是真正的动态仲裁。复现补上了最后一钉(见第 8 篇实验 2):can_assess_deliberation_need() 检查 TouringMachines 能否在运行时评估“当前是否应该花更多时间慎思”,8 个时间片全部返回 False;Ferguson 自评“只能算前智能”,把决策论元推理、anytime 算法、第四学习层全部放在 future work。三篇合观(含 D&M)的结论与仲裁一节殊途同归:1990-1995 的实现里,完全不依赖设计期预设的仲裁机制并不存在,彼时通行折衷是“预设减到最少 + 运行时选出权威”(Durfee 权威值全序 → Müller 选举 mediator),真正的动态仲裁全部位于 future work。

反应与慎思和解了,但和约的签署人是设计者,签署时间在设计时。承诺建成了,社会扩张了,门控雕好了——现在可以把整条线放到 BDI 坐标上,看当代的 Agent 们站在哪里。

BDI 坐标下的拉锯:AutoGPT、LangGraph、Function Calling 与沉入权重的意图

先速写阶段三在 BDI 坐标上的位置:信念是基文字集合,由感知事件触发确定性修订;愿望是外部下发的目标或招标言语行为;意图是可调度的计划栈/意图栈;意图编辑权分担为“计划库人预设 + 栈调度 Agent”;承诺策略是三种旋钮;通信协议是 KQML/FIPA;仲裁机制是四种形态。当代的每一种主流方案,都是在这个坐标系的某个维度上做了极端化。

AutoGPT 2023-2024 把 C&L 的 DECIDING 推到了极端:愿望→意图整体移交模型。 用户给一个目标,LLM 自行分解子任务、自行执行、自行评估;没有计划库——“计划”隐含在权重中,由 prompt 触发概率性生成;没有显式承诺策略——README 警告“可能永远跑下去”,终止手段是 Ctrl+C。C&L 形式化承诺的”believes achieved”判断,在 AutoGPT 中完全缺席。对比我们的复现:PGOAL 的 UNTIL 条件在第 6 步触发(nell_rescued 进入信念库),agent 判断目标已达成并终止意图;AutoGPT 没有这个机制——它能持续跑下去不是因为承诺太强,而是因为根本没有放弃条件。这就是本系列开头那个 Ctrl+C 场景的技术解剖。

LangGraph 2024-2025 把意图的拓扑收回人手。 显式状态图 + 条件边定义了 agent 行为的完整拓扑结构,节点内“下一步做什么”留给模型,这是“计划库由人预设、栈调度归 Agent”在 LLM 时代的复现。三对映射工整得惊人:BDI 的计划库 = LangGraph 的状态图节点,BDI 的选择函数 = 条件边路由,BDI 的意图栈 = 执行轨迹。差别在于节点内逻辑:dMARS 的计划体是确定性的树,LLM 的节点内推理是概率性的前向传播,条件边与前向传播之间的“语义对应”同样未被证明。BDI 的圣杯在 LLM 时代以新的形式重现。

Function Calling 把“愿望执行”契约化。 LLM 输出结构化的 function call(名称 + 参数),由外部工具执行并返回结果,这是合同网协议语义的极简版:function call = 招标,工具执行 = 承包,返回结果 = 报告。但合同网的相互选择机制消失了:Function Calling 是单向调用,没有投标评估,没有相互选择。o1/R1 等推理模型把意图生成沉入权重:内生思维链在输出可见文本之前已经做了多步内部推理,这更接近 C&L 的 DECIDING 定义(“做 a 的持续目标 + 此刻尚不相信 a 必将发生”);但推理模型的“持续目标”并非显式的 PGOAL 数据结构,只是权重中的概率分布。放弃条件仍然无人定义,推理可以持续到 token 上限,没有“相信已达成”或“相信永不可能”的形式化判断。

当代轴上有两个关键实证,本系列提前引用了第 10 篇的内容。Dochkina 2026 的 Sequential 协议dochkina2026:固定排序(人预设骨架)+ 自主角色选择(Agent 填血肉)。复现验证 Sequential 优于 Coordinator +14.5%(论文 +14%)、优于 Shared +43.5%(论文 +44%);能力阈值翻转验证了这一点:能力 0.3 时 Coordinator(0.27) 胜 Sequential(0.18),能力 0.9 时 Sequential(0.61) 胜 Coordinator(0.51)。BCG 2026 的治理悖论bcg2026:47% 的用户花在管理 AI 上的时间超过了实际工作的时间,“节省的时间泄漏到了监督工具上”;复现中管理 AI 占比 44.0%(BCG 调查 47%),认知负荷从 4.4 升至 8.9。“重塑岗位快于重塑工作”是意图编辑权分担不彻底的症状:组织在给 AI 分配 title 的速度快于重新设计实际工作流。

于是出现了本文最重要的观察:三时空同构。PRS 1987 的“计划库人预设 + 栈调度 Agent”、Dochkina 2026 的“固定排序 + 自主角色选择”、LangGraph 2024-2025 的“状态图人编排 + 节点内 LLM 填充”——三者在不同时代、不同技术基座上独立发现了同一个分担结构:人持有骨架(做什么的拓扑),Agent 填充血肉(如何做的执行细节)。

Image

这个同构不是偶然的。[作者判断] 它揭示了一个深层约束:当认知能力(无论是 1987 年的符号推理还是 2026 年的 LLM 前向传播)不足以从零生成完整意图时,最优解总是“人预设骨架 + Agent 填充血肉”。Dochkina 的能力阈值翻转从反面验证了这一点:模型能力低于阈值时,骨架必须变粗(Coordinator 集中分配)、血肉收缩;能力高于阈值时,骨架可以变细(Sequential 固定排序)、血肉扩展。意图编辑权的拉锯并不遵循“越多交给 Agent 越好”的线性逻辑,中间有一个由认知能力决定的相变点。

分担结构中归 Agent 的那一半(运行时慎思)如今也拿到了微观实证。[可引证事实] 2026 新增 A/B 对照实验(E1,见第 2 篇实验 3)把 BDI 解释器的计划选择(dMARS 六选择函数的平凡实例 options[0])单组件替换为 LLM 元级慎思:三计划场景(快路过桥 / 高速 3 步 / 省道 5 步,含风暴预报变体)中,20 次独立抽样全部选中理论最优计划、稳定读出 storm_forecast 与桥前提的风险关联,20/20 无一失手;基线贪心在 static 场景 4 步、风暴场景 5 步(t=3 桥塌后才被动重虑),被全面击败。慎思侧的元级判断,即 PRS 1987 元级 KA“在多个相关 KA 中择一”的职责,在 LLM 内核在场时确实可以外包,且严格优于平凡实例。

把两个时代放进同一张坐标表,拉锯的全貌如下:

维度阶段三综合阶段六 LLM Agent 2026
信念信念库(基文字集)参数统计分布 + RAG + MCP resources
愿望外部下发(用户目标/招标言语行为)用户指令 + A2A 任务委派
意图可调度的计划栈/意图栈ReAct 循环 + 状态图条件边 + 内生思维链
意图编辑权计划库人预设 + 栈调度 Agent骨架人编排 + 血肉模型生成 + 意图沉入权重
承诺策略盲目/单一心智/开放心智三种旋钮无显式策略;AutoGPT 无停机机制
通信协议KQML 36 performative / FIPA ACLA2A agent card / MCP resource schema
仲裁机制四种(招标/均衡/效用重写/终止条件)无标准机制;依赖人工编排
当代实证Sequential = 固定排序 + 自主角色(+14.5%)BCG 47% 管理负担 + Dochkina 能力阈值翻转

表格逐行读下来,会发现一个不对称:当代方案在“做什么”和“如何做”上都有答案,唯独“何时放弃”这一行几乎是空的:无显式策略、无停机机制、依赖人工编排。这个不对称值得单独开一节来讲,而且它恰好接上了另一个系列留下的接头。

自止:PGOAL 的放弃条件,与阶段二终章的焊接

阶段二的终章在收束全系列时立了一个基础价值观:Agent 或 LLM 是工具——人是愿望的来源和存在的意义,工具的意义在于更好地完成人赋予的任务;争论一个工具有没有“意识”没有意义。但终章划出了一个例外:若要 Agent 自主制定工作计划,它需要“自知”(知道自己在做什么)、“自觉”(知道为什么这样做)、“自止”(知道何时该停止)——此时“意识”才有工具性意义。这种意义是工具性的:具备这些能力后,它能更好地完成任务,至于它是否“应该”有意识,无关紧要(见阶段二终章《从 ELIZA 到 Chollet》)。终章的收束判词是:

“自知,是知道自己的边界;自觉,是理解选择的理由;自止,是懂得停止的时机。” ——阶段二终章《从 ELIZA 到 Chollet》的收束判词

终章同时判定:这三问“不是对‘意识’的哲学追求,而是对‘更好的工具’的工程要求”。但符号单体时代给不出答案:ELIZA、STRIPS、MYCIN 都是技能获取效率为零的先验载体,三问无处安放。它们要等 agent 获得跨时间的承诺结构之后才成为可回答的问题,而这正是阶段三做的事。

把 BDI 三心态对到三问上,对应得近乎工整:

终章三问阶段三的数据结构回答回答的机制
自知(知道自己的边界)信念库可检视的世界持有;”意图须与信念一致”的 desiderata 把”知道自己知道什么”变成一致性约束
自觉(理解选择的理由)愿望与意图的分离R&G 的意图定义——对”最近一次慎思所选定的行动路线”的承诺(见第 2 篇)——理由(愿望)与执行(意图)分开持有;副作用免疫保证理由不被可预见后果淹没
自止(懂得停止的时机)PGOAL 放弃条件 + 三种承诺策略二支放弃条件(相信已达成 ∨ 相信永不可能)是”停止时机”的第一个可判定语义;盲目/单一心智/开放心智是自止权的旋钮

所以可以说:BDI 是“自知、自觉、自止”三问的第一次数据结构化——而“自止”是其中唯一拿到形式化定义的一问。 自止的形式化走过一条清晰的谱系,四级台阶一级比一级离逻辑更远:

Image

谱系也是一条退化链:从可证明(模态算子有语义),到可运行(成员测试有复杂度保证),到可商量(统计判定随规模衰减)。C&L 给自止的是算子级语义——”believes achieved”是 BEL 算子在无穷可能世界上的模态判断;R&G 把二支细化为三档旋钮;dMARS 降为工程级语义——信念库的基文字成员测试,一次字符串比较;LLM 时代走到第四级——Ciatto 2025 的 GenAI+BDI 把”believes achieved”交给 LLM 断言(见补篇 C),AutoGPT 干脆无人书写。每退一级,自止的判定就从逻辑义务变成工程惯例,再变成概率习惯。

退化链的末端如今有了 A/B 实测。[可引证事实] 2026 新增 A/B 对照实验(E2,见第 1 篇实验 4):把 PGOAL 放弃条件的精确匹配单组件替换为 LLM 判定(Little Nell 剧本不变,第 6 步 nell_rescued 入库,自变量为干扰信念数 K,每配置 10 次独立抽样,视界 T=12)。K≤40 时十次抽样全部第 6 步正确终止,近失里程碑(nell_grabbed、nell_off_tracks、train_passed)无一诱发提前放弃;K=100 时九成漏终止——nell_rescued 已经躺在信念库里,统计判定器却在百条无关事实中失焦,直到视界 T=12 仍不敢宣告达成,唯一一次“延迟”也拖到第 10 步;而精确匹配基线在 K=100 下依然第 6 步准时终止。精确匹配与信念库规模无关,语义判定随规模衰减,自止外包给统计直觉的失败不是随机的。

到 LLM 时代,三问的记分牌发生了分化。自知——近似解决:上下文窗口 + 系统提示 + 自我描述让 agent“看起来知道自己在做什么”,但“知道自己能力的边界”仍是重灾区:agent 报告的自信与实际成功率之间的系统性错位,是自知之问在 2026 年的形态。自觉——部分解决:CoT 与 ReAct 轨迹把理由外显为可读文本,但轨迹中的理由是事后生成的叙事,不是决策的因果记录——读得到不等于靠得住。自止——未解决:AutoGPT 无停机机制,o1/R1 推到 token 上限;GenAI+BDI 把”believes achieved”交给 LLM 断言,等于把自止的判定外包给统计直觉,而判定“已达成”所需的前提选择(哪些信念与目标相关),恰是信念库爆炸实验暴露的不可处理问题(见第 1 篇实验 3:agent 被迫追踪所有可预见后果时,信念库三个时间步从 0 涨到 348)。[作者判断] BCG 的 47% 里有一半是人类在充当 agent 的外挂自止器:打断、审批、Ctrl+C,都是人在替机器行使放弃权。

自止的失守不是随机的,它精确地撞在同一根刺上。E2 的 K=100 失焦与信念库爆炸的 348 条,是同一个问题的两个定量显影:从百条信念中挑出与目标相关的那几条(前提选择),恰是 Bar-Hillel 1958 年批评机器翻译时说的“比演绎更困难”的那个动作(详见下节)。放弃条件的形式化把“停止时机”变成了可判定问题,但判定的执行需要相关性筛选,而相关性筛选没有算法。C&L 的符号查询(精确匹配)是对这个难题的结构性规避,LLM 的语义判定则把它原样请了回来。

现在可以完成这次焊接了。阶段二终章留下三问,阶段三把三问第一次写成了数据结构:信念库给自知、愿望-意图分离给自觉、PGOAL 放弃条件给自止;自止是三问中唯一拿到过形式化定义的一问,也是 LLM 时代唯一失守的一问。终章说三问服务于“更好地完成人赋予的任务”;阶段三的证据把这个说法精确化了一半:自止不需要意识,只需要可判定的数据结构与放弃条件,但信念库爆炸实验表明,只靠数据结构也不够,放弃条件的判定本身撞在前提选择上。本系列的收束判词由此而来:意图编辑权的拉锯,在终点处的名字就叫“自止”——谁有权写放弃条件,谁就持有最后的编辑权。 阶段三把这个权柄第一次部分移交(二元约束 + 三旋钮),LLM 时代又把它整体没收(无显式策略),自止因此成为三问中至今无主的一问。

编者注:三问的完整答案大概要等”经验改变系统”的维度打开——按终章引用的 Chollet 框架,那属于技能获取效率的问题,是阶段四(学习与适应)的领地,不在本系列范围内。本系列能画出的边界到此为止:自止是被形式化过的一问,也是被退化链磨掉的一问。

Bar-Hillel 之刺:那条直线没人走通,前提先塌了

Bar-Hillel 1958 年批评机器翻译的核心论点是“前提选择比演绎困难”(见阶段二《Bar-Hillel 式批评》barhillel。在阶段三的综合视角下,这根刺有一个最直接的投影:AgentSpeak(L) 自认的圣杯(模型论/证明论/抽象解释器的一一对应)至今未被证明。C&L 1990 给了逻辑底座,PRS 1987 给了工程实现,R&G 1995 给了形式化框架,dMARS 1998 给了规范,AgentSpeak(L) 1996 给了语言语义,但五者之间的“一一对应”始终悬空。最锋利的一处:C&L 的”believes achieved”是 BEL 算子的可能世界语义——无穷世界的模态判断;dMARS 的“相信已满足”是信念库的基文字检查——有限集合的成员测试。两者之间的直线,三十多年没人画通。

这根刺不挑年代。映射到当代 LLM Agent:LangGraph 用显式状态图 + 条件边把“意图的拓扑”收回人手,节点内留给模型,但条件边是确定性的路由逻辑,LLM 节点内是概率性的前向传播,两者之间的“语义对应”同样未被证明。BDI 的圣杯在 LLM 时代以新的形式重现:状态图的形式语义与 LLM 前向传播的概率语义之间的“一一对应”,依然是一条未被走通的路。回看本系列前八篇,每一篇都承载了这根刺的某个投影:C&L 的 PGOAL 放弃条件隐含了“判断目标已达成需要前提选择”(第 1 篇的信念库爆炸验证);合同网的“诚实投标”预设了未经论证的合作假设(第 4 篇);三种仲裁形态全部依赖设计期预设(第 5 篇);STEAM/ARCHON/OASIS 的“知道该做什么”仍由人类专家填补(第 6 篇);KQML“能找到对方不等于能理解对方”(第 7 篇);TouringMachines/INTERRaP 的仲裁依赖设计者预设(第 8 篇)。

第二根刺扎在网络层:缺一个能让利基系统互相找到的网络层。KQML 给了 36 个 performative 和三层分离架构,但没有给出“何时该用 broker 而非 recruit”的选择算法——36 个词是一本精装字典,但没有语法书。FIPA 给了形式语义和三组件,但 JADE 1999 首尔互测仍然失败:“失败取决于 FIPA 规范中一些不完整的定义”。而且这不是一个可以靠“完善规范”解决的问题:即使规范完美无缺,两个 agent 用同一个 cfp 消息通信,它们对 :content 的理解仍取决于各自的认知内核。FIPA ACL 的形式语义(feasibility preconditions + rational effect)只规范了“说这句话在什么条件下是合理的”以及“理性效果是什么”,却不规范“收到这句话后该怎么理解和行动”。JADE 2001 的原话把这层窗户纸捅破了:”a shared communication language is not the only element required to support inter-operability … common agent services and ontologies are also needed.”jade2001 共享通信语言只是互操作的必要条件之一:KQML/FIPA 对 agent 内部推理零假设,语言规范能在没有认知内核时独立完备,这本身是优点(解耦),但也是陷阱,人们会误以为有了通信协议就有了互操作。

两根刺合起来,就是阶段三留给今天的最大缺口:缺口不在技术,在认知。而这个缺口,恰好是三十年后的两份协议重新踩进去的地方。

MCP 与 A2A 的判决:协议承载接口,不承载内容

三十年后,当代 agent 协议重新面对了同样的问题。A2A(Agent-to-Agent)协议定义了 agent 之间的消息格式和发现机制,其 Agent Card(能力声明 + 发现)在概念上与 KQML 的 advertise + facilitator 同构,但没有可追溯的直接引用链,A2A 的设计者大概率没有读过 Labrou & Finin 1997a2a2025。MCP(Model Context Protocol)定义了 agent 与工具之间的接口,其 Tool Registry 在概念上与 FIPA DF 黄页同构mcp2024。通信从结构化消息退化为自然语言对话:KQML 用 Lisp 语法定义 36 个 performative,Dochkina 2026 用自然语言 prompt 定义角色交换协议;但核心问题不变:通信协议的选择和中介策略的决策,比消息传递本身难得多,这正是 Bar-Hillel 之刺在通信层的投影。协议层的完整技术分析见第 7 篇,本节要做的是宣判:同样的概念在 1997 年死了,凭什么 2025 年能活?

先复盘死因。KQML/FIPA 的失败在本系列的证据边界内可归纳为四条:

#死因证据
1无权威定版,方言分裂KQML 1997 TR 自认”本文档不是官方的新 KQML 规范”;复现实验直接验证 ask/query 互不认识(第 7 篇实验 2)
2规范先行于实现FIPA 1997 先出规范、JADE 1999 才互测,失败归因”规范中一些不完整的定义”——规范完备性成为整个生态的单点瓶颈
3语义过重FIPA ACL 给言语行为配形式语义(feasibility preconditions + rational effect)+ 三层本体——但语义只规范”说这句话何时合理”,不规范”收到后如何理解”,重量没换来互操作
4内核缺位,协议被迫越位agent 内部没有通用认知内核,KQML 的 36 词表部分是在替”哑 agent”补协调智能;生态无真实商业痛点驱动收敛

(第 3、4 条的因果链为本系列凝练:内核缺位 → 协议上探语义 → 合规负担重 → 实现分化 → 方言分裂。)

Image

再看 MCP 的活法——四条死因逐条对上。其一,单一厂商定版,先有代码后有规范:Anthropic 2024.11 发布即开源,并预置 Google Drive、Slack、GitHub、Git、Postgres、Puppeteer 六个参考实现mcp2024,规范与可运行实现同日存在,不给方言分裂留窗口;随后数月被主要模型厂商相继采纳,事实标准先于任何委员会。其二,最小内核:三个原语(tools/resources/prompts,可提供任意子集)、一种消息格式(JSON-RPC 2.0)、两种传输(stdio + Streamable HTTP);对照 FIPA 的三强制组件 + IIOP 绑定 + 交互协议库,MCP 只做了其中一层皮。其三,只管语法,不管语义:MCP 不给 tool call 配言语行为语义,没有 feasibility precondition,没有 rational effect;何时调用、结果意味着什么,全部交给模型判断。这是对 FIPA 教训的(大概率无意识的)吸收:FIPA 想用协议内的形式语义弥补认知内核的缺位;MCP 面对的 agent 自带语义引擎(LLM),协议只需做管道。语义让给模型、协议只管语法,这是 LLM 时代协议设计的第一教训。其四,降维的战场:MCP 先解决 agent-to-tool 的集成痛点,公告原话“每个数据源都需各自定制实现,使互联系统难以扩展”,解法是“以单一协议取代碎片化集成”(”M×N→M+N”是社区凝练而非官方原话)mcp2024;KQML/FIPA 一上来就要做 agent-to-agent 的社会全景,MCP 只做了工具总线——难度降一个维度,痛点却是真实的。

然后是 A2A 的判决——它站在 MCP 验证过的地皮上,但它的脸更像 FIPA。风险面有三处结构相似。其一,多方共治:2025.04 发布即 50+ 伙伴(Atlassian、Salesforce、SAP、PayPal……),随后捐给 Linux Foundationa2a2025,委员会治理回归,版本漂移风险随之回归;微观样本已经出现:Agent Card 的标准发现路径从 0.1 版的 agent.json 改为 /.well-known/agent-card.json,一次 breaking change 就是一次“无权威定版”的微缩重演。其二,语义鸿沟原样搬运:A2A 规定了 Task 的生命周期与终态(completed/canceled/rejected/failed,不可重启),但“何时算 completed”由远程 agent 自定,这正是 JADE 1999 问题的当代版:格式互通了,理解仍取决于各自的内核,只不过内核从 JESS 换成了 LLM。其三,野心更大:五条设计原则涵盖发现、委派、数小时级长任务、模态无关,比 KQML 的通信词表野心更宽。防护面也有三条:设计原则明言“基于现有标准”(HTTP(S)、JSON-RPC 2.0、SSE、Webhook),不重造 IIOP 式新栈;发布时有真实产品与真实商业需求背书(跨厂商 agent 互操作在 2025 年有真金白银,1997 年没有);且官方明确划界:“MCP 面向 agent-to-tool……A2A 面向 agent-to-agent……不是 MCP 的替代,二者互补”a2a2025,没有重走“一次标准化一切”的老路,至少在口号上。

判决(本系列凝练):A2A 的生死不在语法层——语法层它已全部做对(最小内核、现有标准、与 MCP 互补);它的生死在于 Agent Card 被当接口还是被当内容。[作者判断] 给读者一个可检验的观察点:盯住 Agent Card 的 schema 演化方向。卡片持续增肥(能力语义、质量指标、协商规则、领域本体重标准化),就是在重走 FIPA 用协议补偿语义的路;保持瘦卡(身份 + 端点 + 签名)、把细节留给运行时协商(让两端 LLM 用自然语言谈),就守住了“语义让给模型”的边界。发现场景天然存在卡片增肥的压力:要找到“对的 agent”,就想在卡片里写更多信息。这道张力不会自己消失,只能被治理选择压住。

这个判决已有实验支撑。[可引证事实] 把 KQML facilitator 的 performative 精确匹配单组件替换为 LLM matcher(见第 7 篇实验 3):基线在双域方言场景 0/8 命中(方言分裂一比一复现),LLM matcher 80/80 全对、中介策略选择 7/8 稳定补位(KQML 自认缺失的选择算法),代价是每次判定约 230 tokens 的模型成本。语义让给模型在内核在场时确实可行且强大,但它是用 token 成本和概率性买来的——这正是 FIPA 买不起、MCP 买得起、A2A 必须想清楚自己买不买的那个东西。卡片“内容侧”的代价也有了定量样本(见第 4 篇实验 3):把合同网的投标自评单组件替换为 LLM 定性自评,120 次自评零高估、一半低估:强项校准良好、弱项被系统性压低,真值 0.2 的兜底能力被自评为 0.05、跌破投标门槛,囚徒困境的全局效用从 1.1 恶化到 0.9。让 LLM 诚实地书写能力语义,它会如实写“几乎做不了”,而任务市场依赖的恰是弱但非零的冗余容量。卡片增肥的压力不止来自“想写更多”,还来自“写得更诚实”也会伤市场深度,这是瘦卡主张没有料到的第二重张力。

用本篇的语言收束:协议只能承载“意图的接口”(签名、寻址、生命周期),承载不了“意图的内容”(何为完成、何为好的执行)。 KQML/FIPA 死于想让协议承载内容;MCP 活于只做接口;A2A 的 Agent Card 正站在接口与内容的分界线上,而分界线另一侧的那个问题,“何为完成”,上一节已经给出它的名字:自止。

谱系与边界:这条线留下了什么,没碰过什么

观点篇的最后义务是把引证强度摊开。阶段三 17 篇原始论文 + 2 篇当代研究的影响分三级,每条附证据。

强影响(直接继承协议语义或工程实现):

系统 / 概念年份影响点参考
C&L 1990 → PRS/dMARS1987-1998PGOAL 放弃条件 = dMARS 意词语义逻辑底座第 1 篇
合同网 → FIPA cfp1981→1997招标/投标/中标/报告/终止 = FIPA 五种言语行为FIPA
KQML → FIPA ACL 语法1993→1997JADE 原话”ACL syntax is very close to KQML”JADE
STEAM → JACK Teams1997→2000s团队算子和联合意图语义直接商业化JACK
Dochkina Sequential → 验证 PRS 分担结构2026+14.5% 证明”计划库人预设+栈调度Agent”在 LLM 时代仍最优arXiv

中强影响(概念延续与超越):

概念路径年份影响点参考
R&G 三种承诺策略 → 当代 Agent 设计1991/1995盲目/单一/开放旋钮是承诺理论的工程原语KR&R-91
ARCHON 包装遗留系统 → MCP 包装 API1995→2024“无需重写”的包装模式同构MCP
KQML advertise → A2A Agent Card1997→2025能力声明+发现机制概念同构(无直接引用链)第 7 篇
TouringMachines/INTERRaP → LangGraph 状态图1992→2024横向/纵向分层概念平行于状态图分层LangGraph
BCG 47% → 意图编辑权治理实证2026管理负担=人持有编辑权但被压垮BCG

中等影响(概念启发,无直接因果链):

概念路径年份影响点参考
合同网囚徒困境 → 多 Agent 协调研究1981“局部最优≠全局最优”成为 MAS 经典问题第 4 篇
W&J 弱概念四性质 → LLM Agent 定义1995行为层定义概念传承,无直接引用第 3 篇
AgentSpeak(L) 外部归因 → LLM 意图诠释1996“数据结构而非模态算子”在 LLM 中重现第 2 篇
Z&R 均衡约定 → 机制设计1989博弈论协商路线影响后续 MAS 机制设计IJCAI-89

同样重要的是另一张清单:阶段三没有直接影响到什么。统计学习路线:BDI 的信念库是基文字集合、由感知事件触发确定性修订,强化学习的“信念”是值函数或策略分布、由奖励信号统计更新,两者没有概念桥梁;BDI 的承诺策略在 RL 中对应探索-利用策略,但分属不同方法论传统。LLM 的 prompt 内推理:BDI 的计划库是预编译的显式过程知识、触发匹配是字符串比较,LLM 的“计划”隐含在权重中、由 prompt 触发概率性生成。Transformer 架构:注意力机制与言语行为理论无关联,KQML/FIPA 的 Lisp 语法与 JSON Schema 无技术继承关系。LLM Agent 的 prompt 工程:C&L 的形式化需要显式算子和可能世界语义,LLM Agent 没有这些结构,意图退化为 ReAct 循环的 action 序列,放弃条件无人定义。

剥掉直接引用链之后,阶段三留下的是两个结构性遗产。第一个是意图编辑权的分担结构:它不以引用链的方式影响当代(LangGraph 的设计者大概率没读过 dMARS 规范),但分担结构本身被独立重新发现(三时空同构),且被 Dochkina 的大规模实验证明在 LLM 时代依然是最优解,前提是模型能力跨过阈值。第二个是通信协议的形式化范式:从合同网的五步协议到 KQML 的 36 performative 到 FIPA 的三组件。没有人再用 Lisp 语法写 KQML 消息,但 A2A 的 Agent Card 是 KQML advertise 的重发明,MCP 的 Tool Registry 是 FIPA DF 黄页的重发明。

最后是诚实边界的当代投影。阶段三留给今天的最大缺口不在技术,在认知:AgentSpeak(L) 自认的圣杯在 LLM 时代以新的形式重现,BDI 的形式语义与 LLM 前向传播的概率语义之间的“一一对应”未被证明,就像 C&L 的模态算子与 dMARS 的数据结构之间的对应未被证明。Dochkina 的能力阈值翻转和 BCG 的 47% 合观,给出了这个缺口的当代投影:瓶颈不在 AI 能否自组织(Dochkina 证明可以),而在人的组织形式能否适配 AI 的自组织(BCG 证明还没有)。管理 AI 的认知负荷,本质是人试图理解 LLM 生成的不透明意图的成本;前提选择比演绎困难,在治理层面,“这个 agent 为什么选了这个角色”比执行这个角色本身更耗认知。这场从 1958 年打到 2026 年的拉锯,全景如下:

意图编辑权拉锯——从 McCarthy 到 o1/R1 1958 1990 1995-98 2023 2024-25 2026 McCarthy 1958 祈使句接口 人持有全部编辑权 C&L 1990 PGOAL 持续承诺 放弃条件二支 PRS/dMARS 计划库+栈调度 第一次分担 AutoGPT 愿望意图整体移交 无停机机制 LangGraph 意图拓扑收回人手 节点内留模型 2026 Sequential+14.5% BCG 47%负担 意图编辑权分配 100% 人 第一次分担 极端移交 拓扑收回 三时空同构——分担结构被独立重新发现 PRS 1987: 计划库人预设 + 栈调度Agent Dochkina 2026: 固定排序 + 自主角色 LangGraph: 状态图人编排 + 节点内LLM 骨架 = 人预设 骨架 = 排序固定 骨架 = 状态图 意图编辑权从人→agent 的拉锯从未终结——分担结构是最优解但前提是能力跨过阈值 BCG 47% 证明人被编辑权压垮——瓶颈不在 AI 能否自组织而在人的组织形式能否适配

回到开头的那个场景:2023 年的用户按下 Ctrl+C 时,他行使的正是 McCarthy 1958 年代由人独占、C&L 1990 年代部分移交、AutoGPT 年代又被整体没收的那项权力——自止。七十年拉锯,三个问题里两个有了工程答案(做什么:骨架人预设血肉模型填;如何做:E1 证明慎思可外包),唯独“何时放弃”从形式化的顶点一路退化成没人认领的空白。谁有权写放弃条件,谁就持有最后的编辑权。这是本系列八篇历史加一篇实证浓缩出来的一句话。下一篇文章将给出这句判词的当代证据:25,000 次任务、8 个模型的大规模验证,以及那个管理时间超过工作时间的治理悖论。

参考文献

[cl1990]  Cohen, P. R. & Levesque, H. J. “Intention Is Choice with Commitment.” Artificial Intelligence, 42(3): 213-261, 1990. 详见 第 1 篇

[prs1987]  Georgeff, M. P. & Lansky, A. L. “Procedural Reasoning.” In Proc. AAAI-87, pp. 677-682, 1987. 详见 第 2 篇

[rg1995]  Rao, A. S. & Georgeff, M. P. “BDI Agents: From Theoretical Foundations to Practical Applications.” Technical Note 56, 1995; also in Proc. ICMAS-95. 详见 2 篇

[dmars1998]  d’Inverno, M., Kinny, D., Luck, M. & Wooldridge, M. “A Formal Specification of dMARS.” In Intelligent Agents IV (ATAL-4), LNAI 1365: 155-176, Springer, 1998. 详见 第 2 篇

[agentspeak1996]  Rao, A. S. “AgentSpeak(L): BDI Agents Speak Out in a Logical Computable Language.” In Proc. MAAMAW’96, LNAI 1038: 42-55, Springer, 1996. 详见 第 2 篇

[wj1995]  Wooldridge, M. & Jennings, N. R. “Intelligent Agents: Theory and Practice.” The Knowledge Engineering Review, 10(2): 115-152, 1995. 详见 第 3 篇

[contractnet]  Davis, R. & Smith, R. G. “Negotiation as a Metaphor for Distributed Problem Solving.” MIT AI Memo No. 624, May 1981. 详见 第 4 篇

[zr1989]  Zlotkin, G. & Rosenschein, J.S. “Negotiation and Task Sharing Among Autonomous Agents in Cooperative Domains.” IJCAI-89, pp. 912-917. 详见 第 5 篇

[persuader1988]  Sycara, K. “Resolving Goal Conflicts via Negotiation.” AAAI-88, pp. 245-250. 详见 第 5 篇

[dm1990]  Durfee, E.H. & Montgomery, T.A. “A Hierarchical Protocol for Coordinating Multiagent Behavior.” AAAI-90, pp. 86-93. 详见 第 5 篇

[steam1997]  Tambe, M. “STEAM: Towards Flexible Teamwork.” Journal of AI Research 7: 83-124, 1997. 详见 第 6 篇

[archon1995]  Jennings, N. R. “Controlling Cooperative Problem Solving in Multi-Agent Systems.” Artificial Intelligence 75(2): 195-240, 1995. 详见 第 6 篇

[oasis1992]  Ljungberg, L. & Lucas, A. “The OASIS Air Traffic Flow Management System.” AAII Technical Note 28, Melbourne, 1992. 详见 第 6 篇

[kqml1997]  Labrou, Y. and Finin, T. “A Proposal for a new KQML Specification.” UMBC Technical Report TR CS-97-03, 1997. 详见 第 7 篇

[jade2001]  Bellifemine, F., Poggi, A. and Rimassa, G. “Developing multi-agent systems with a FIPA-compliant agent framework.” Software: Practice and Experience, 31(2):103-128, 2001. 详见 第 7 篇

[ferguson1992]  Ferguson, I. A. “TouringMachines: An Architecture for Dynamic, Rational, Embedded Agents.” Technical Report UCAM-CL-TR-273, University of Cambridge, 1992. 详见 第 8 篇

[muller1993]  Müller, J. P. & Pischel, M. “INTERRaP: An Architecture for Behavior-Based Agents.” DFKI Research Report, 1993. 详见 第 8 篇

[dochkina2026]  Dochkina, V. “Drop the Hierarchy and Roles: How Self-Organizing LLM Agents Outperform Designed Structures.” arXiv:2603.28990, March 2026. 详见 第 10 篇

[bcg2026]  BCG. “AI at Work 2026: Strategy Matters More Than Tools.” Boston Consulting Group, June 3, 2026. 详见 第 10 篇

[mcp2024]  Anthropic. “Introducing the Model Context Protocol.” 2024.11 发布,开源规范,预置六个参考服务器(Google Drive、Slack、GitHub、Git、Postgres、Puppeteer). https://modelcontextprotocol.io (存档 原始文章\07a-MCP-Spec.md;”M×N→M+N”系社区凝练,官方原话为”以单一协议取代碎片化集成”)

[a2a2025]  Google → Linux Foundation. “Agent2Agent (A2A) Protocol.” 2025.04.09 Cloud Next ’25 发布(50+ 伙伴),2025 年中捐 Linux Foundation. https://a2a-protocol.org (存档 原始文章\07b-A2A-Spec.md;Agent Card 现行标准路径为 /.well-known/agent-card.jsonagent.json 为 0.1 版旧路径)

[bratman1987]  Bratman, M. E. Intention, Plans, and Practical Reason. Harvard University Press, 1987. C&L 论文中引文 [8]。

[barhillel]  Bar-Hillel 对形式系统前提选择难题的批评,见 阶段二《Bar-Hillel 式批评》

[mccarthy1958]  McCarthy 的 Advice Taker 愿景,见 阶段二《McCarthy Advice Taker》

[strips1972]  Fikes & Nilsson 的 STRIPS 感知-规划-执行闭环,见 阶段二《STRIPS》

系列导航 · 意图即承诺,智能体即社会——自主性的第一个可计算答案

Agent 考古 意图即承诺,智能体即社会 系列文章关键词
导读:总览与阅读路线四条线时间线 · 阶段二衔接 · 阅读路线
意图即带承诺的选择C&L 1990 · PGOAL · 持续承诺
BDI 从理论到工程PRS · AgentSpeak · dMARS · 承诺策略
何为 AgentW&J 弱/强概念 · AOP
合同网Smith 1980 · 任务招标 · 囚徒困境
三种仲裁Z&R · PERSUADER · D&M
联合意图部署STEAM · ARCHON · EV(通信)
智能体如何找到彼此KQML · FIPA · JADE · MCP/A2A
反应与慎思的和解TouringMachines · INTERRaP · 门控
意图编辑权三时空同构 · 编辑权拉锯 · 自止焊接
自组织的实证与治理悖论Dochkina 2026 · BCG 治理悖论
当 LLM 住进 BDICiatto 2025 · GenAI+BDI · 计划生成

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注