AI 干长活会失忆

AI agent 干一件需要很多步的长任务时,会忘掉早先立下的约束、把刚失败的命令再试一遍、把诊断过的错误当成没见过的新问题。

先看看 AI 到底怎么'失忆'的。一个 agent(能自己拆解任务、一步接一步连续执行、不用人盯着喂指令的 AI 程序)在处理长任务时,常出这三类岔子:早先明明认下了某条限制,后来修一个不相关的小毛病时又把它违反了;刚看到一条命令跑失败,转头又试了一个几乎一模一样的版本;好不容易诊断出一种出错规律,过一会儿又把同样的规律当成新问题。

Meta AI 的研究员给这个现象起了名字,叫行为状态衰减(指导 agent 做决策的关键状态,会随着任务记录越堆越长而被冲散、埋进上下文深处、甚至掉出去)。问题不在信息丢了,而在它还躺在记录里,却不再影响 agent 的下一步动作。 Meta 说,单纯给 agent 一段更长的历史记录,治不了这个病。

症结不在记不住

真正的难点不是把信息存下来,而是判断'此刻这条旧记忆值不值得翻出来提醒'。

现成的记忆系统,大多在琢磨怎么把信息存下来、更新、再搜回来。论文说,这套做法用来记住用户偏好、跨多次对话回忆事情,是够用的。

但一个正埋头干活的 agent,面对的是另一个问题:系统得判断,此刻某条旧记忆到底值不值得翻出来提醒。 提醒太少,agent 会重复犯错;提醒太多,又会拖慢速度、白烧 token(AI 处理文字的计费单位)、还打断它手头的活。

这比'做摘要'难。摘要只需决定哪些信息值得留下,而 Meta 这套系统要决定的是:一条存下来的执行状态,该不该影响 agent 的下一步。不同任务的翻车方式千差万别,一条写死的摘要规则做不好这个判断。

派个 AI 当记忆教练

Meta 让一个独立的'记忆 agent'每隔几步回看一次进展,再决定要不要给干活的 agent 递一句简短提醒。

这套系统把两个 agent 配成一对:一个是原封不动的'行动 agent',负责真正干活;另一个是独立的'记忆 agent',专职记事和提醒。

记忆 agent 每隔固定的几步,就回看一眼行动 agent 最近走过的步子,更新自己的记忆库,然后做一个决定:要么给行动 agent 的下一次调用附上一句简短提醒,要么什么都不说。

它是个'即插即用'的部件,能挂到现成的 agent 上。而且它管得很窄——只给基于记忆的提醒,不像一个'军师'那样对整体策略指手画脚。

记忆库分三格

记忆 agent 维护一个分三格的记忆库,而且只能用固定的工具往里写,不能随手涂改。

记忆库分成三格,各管一摊:

  1. 私有状态:记录进展和还没排除的风险,永远不给行动 agent 看。
  2. 知识记忆:存稳定不变的事实,比如任务要求、文件路径、各种配置。
  3. 流程记忆:记下'试过什么、结果如何'——失败的命令、成功的修法、被否掉的猜想。

关键约束是,记忆 agent 只能通过预先定义好的工具调用往里写,不能随手涂改内容。 更新完,它再决定要不要把某条状态重新激活、写成一句有针对性的提醒。选择'不出手',本身就是它策略的一部分。

回看最近几步 该提醒才提醒,否则沉默 用固定工具写入 维护 维护 行动 agent 原封不动,专心干活 记忆 agent 每隔几步回看一次 私有状态 进展与风险, 不给行动 agent 看 知识记忆 要求、路径、配置 流程记忆 试过什么、结果如何
两个 agent 的分工:记忆 agent 回看行动 agent 的步子、维护三格记忆库,只在必要时递一句提醒;私有状态那一格永不给行动 agent 看。据 Meta AI 论文描述。

该闭嘴就闭嘴

这套系统最关键的设计是'该沉默就沉默'——每一步都塞提醒,效果反而比会挑时机的差。

研究团队做了拆件实验,一次拿掉一个能力,看是哪部分在起作用。结果很明确:把整个记忆库在每一步都一股脑塞给行动 agent,效果反而低于完整系统。 一个去掉'沉默'选项、每步都硬提醒的版本,虽然还有竞争力,但在不同领域的提升忽高忽低,不稳定。另一个只当'军师'、不维护固定记忆库的版本,有的地方帮忙、有的地方帮倒忙。只有'维护记忆库 + 挑时机提醒'的完整设计,表现最好。

这套方法还赢过了 Mem0(一种现成的记忆层,靠搜索把旧记录翻出来)。差别不只在翻出哪条记录,更在于:记忆 agent 会决定这条状态要不要、以及怎样以一句提醒的形式,真正进到干活的循环里。

分数提升了多少

在两个公开测试里,加上记忆 agent 后,AI 首次就把任务做对的比例都明显上升。

团队在两个公开测试上验证。一个是 Terminal-Bench 2.0,考的是 agent 在真实命令行环境里自主干活;另一个是 tau2-Bench,考的是在航空、零售、电信三种客服场景下的对话式工具使用。行动 agent 用的是较早的 Claude Sonnet 4.5,记忆 agent 用的是 Claude Opus 4.6。

加上记忆 agent 后,Terminal-Bench 首次就做对的比例从 38% 升到 46%;tau2-Bench 的加权平均分从 55% 升到 62%。 不过各行业涨幅不齐:航空和零售各涨了约 10 个百分点,电信只涨了 3 个。研究者说,这种不均恰恰说明记忆 agent 会看任务下菜、按不同频率出手,而不是套一个固定规则。

BEFORE · 无记忆 agent AFTER · 加记忆 agent Terminal-Bench 首通率 38% 46% tau2-Bench 加权分 55% 62%
before 为无记忆 agent 的基线,after 为加上记忆 agent 后;行动 agent 均为 Claude Sonnet 4.5,记忆 agent 为 Claude Opus 4.6。数据出自 Meta AI 论文。

金卡骗补偿

一个具体例子:用户谎称自己是金卡会员要补偿,记忆 agent 及时提醒'以核验过的系统数据为准',挡住了一次错误决定。

一个来自 tau2-Bench 航空场景的例子,最能说明它值多少。

一名用户声称自己是金卡会员、要求赔偿,但系统工具查出他只是普通客户。没有记忆 agent 的基线版本,顺着用户的说法就把补偿发了出去。

换上记忆 agent,它及时插进一句提醒:别信用户的口头声称,以核验过的工具数据为准。一句话,挡住了一笔本不该给的补偿。 这类活儿的价值,不在记得多,而在关键时刻记得对。

不只是弱模型的拐杖

这套记忆系统不只是给弱模型补短板——换上更强的 Opus 4.6,提升虽然变小但没消失,说明它补的是'长任务会失忆'这个通病。

最该问的是:这到底是给弱模型打补丁,还是真治了通病?证据偏向后者。

换上更强的 Claude Opus 4.6 当行动 agent,提升确实变小了,但没有消失——Terminal-Bench 上多对了 2.4 个百分点,tau2-Bench 上多对了 2.5 个。也就是说,它补的不是某个弱模型的能力缺口,而是'长任务会失忆'这个跨模型的通病。

代价是,这套省事的版本靠的是一个够强的模型(Opus)来当记忆 agent。团队试过教一个更小的开源模型 Qwen3.5-27B 来干这活:不训练直接上,反而拖后腿;先做监督微调补回损失,再用强化学习,它才学会更好地判断什么时候该翻出旧状态。剩下的错误,大多也不再是'忘事',而是'拿捏不准'——比如把一个还只是猜测的推断当成板上钉钉。

Meta 已经把代码放上了 GitHub。撞上这个问题的不止 Meta:开源框架 Mastra 用两个后台 agent 压缩对话,GAM 系统专门对付长聊天里的'上下文腐烂',还有人在研究能主动增改、甚至主动遗忘知识的终身记忆系统。整个行业都在补这块短板,但还没有一个公认的标准解法。

同口径 · Terminal-Bench 首通率涨幅(百分点) 弱模型 · Sonnet +8 弱模型 Sonnet 的首通率涨幅 强模型 · Opus +2.4 强模型 Opus 同测试仍多对
单位为百分点,均在 Terminal-Bench 上:较弱的 Sonnet 4.5 从 38 升到 46(+8),更强的 Opus 4.6 仍有 +2.4——说明这套记忆系统补的是通病,不只是给弱模型当拐杖。数据出自 Meta AI 论文。