两种软件,两种坏法

传统软件的用户只能按你给的按钮,AI 智能体的用户想说什么说什么。测试覆盖不了的地方,从「少数边角」变成了「绝大多数」。

传统软件的输入是有限的。用户点按钮、填表单、走你设计好的流程。做一个退款功能,你知道用户必然是:进「订单记录」→ 点某个订单 → 点「申请退款」→ 在几个预设选项里选一个。路径固定,所以能穷举,所以能测试。

智能体(能自己拆解任务、调用工具、连续干活的 AI 程序)接的是自然语言,而自然语言没有「合法输入清单」。同样是要退款,LangChain 举了四种说法:

「我想退货」 「上周买的鞋能帮我把钱退回来吗?」 「收到的东西是坏的,我有什么选择?」 「订单 12345 退款」

意图完全一样,字面毫无共同点。而这还只是四种,真实用户有几千种。你没法在上线前预测你的智能体会被怎么用,只能等真实用户开口。

传统软件的输入 按钮、下拉框、表单—— 可以列完,所以可以逐个测试 智能体的输入 自然语言——列不完, 上线前无法预测会被怎么用
差别不在"输入更自由",而在能不能穷举。原文举的退款例子里,四种完全不同的说法指向同一个意图。

同一句话,两次不同答案

大模型对措辞的细微变化很敏感,同样的输入也可能给出不同结果。开发阶段跑通的,上线后不保证还通。

这不是 bug,是大语言模型(ChatGPT 背后那类技术)的工作方式。它生成文字时带有随机性,而且对措辞、上下文、指令顺序的微小改动都会有不同反应。

后果很具体:一句在测试里稳定工作的提示词,碰到你没见过的边角情况就可能失灵;一个在评测里工具选得挺准的智能体,遇到措辞稍微不同的提问,可能就调错了工具。

传统软件里,同样的输入必然得到同样的输出,这是你调试一切问题的地基。智能体把这块地基抽掉了。

状态码看不出好坏

监控要从系统指标挪到对话内容本身,因为智能体的失败不表现为报错。

传统监控工具盯的是延迟、流量、错误率、资源占用。一次网页请求在日志里就是一行:`POST /api/checkout 200 OK 342ms`。这一行足够判断它成功了。

智能体不行。它可能全程零报错,每一步都返回成功,但答非所问、语气冒犯、检索到了不相关的资料。这次对话到底行不行,从状态码里读不出来。

LangChain 列了三样必须记录的东西:

  1. 完整的问答对:不只记「发生了一次请求」,要记用户具体问了什么、智能体具体答了什么
  2. 多轮上下文:一次完整对话往往跨好几个来回,得把相关的记录归到一起
  3. 中间步骤的完整轨迹:智能体到达答案的路上调了哪些工具、怎么推理的,每一步都要能看到,不能只留最后那句回复
之前 之后 记录什么 状态码,耗时 完整问答对 记录多长 一行日志 多轮对话全程 能否判断成败 看状态码即可 要读内容才知道
传统请求一行日志就够判断,智能体的一次交互可能几十步,好坏藏在内容里。三个维度均出自原文对监控要求的列举。

人工看不过来

判断一次回答好不好本质上需要人,但人一小时只能认真看 50 到 100 条,量一上来就彻底不够。

「这个回答有用吗?」「它理解用户的意思了吗?」「语气合适吗?」这些问题没有客观标准答案,得靠人判断。

开发阶段这完全可行:你自己翻记录、改提示词、再试一遍。但上线之后是成千上万甚至上百万次交互。LangChain 给的数字是:一个评审员每小时能有效评估 50 到 100 条记录;按每天 1000 次请求算,全量人工评审需要每天 10 到 20 小时的专职人力。

这还只是每天 1000 次。对一个面向用户的产品来说,这个量级相当小。

50-100 条/小时 人工能认真评审的量 10-20 小时/天 每天 1000 次请求全看的人力 10-20% AI 自动评估建议的采样比例
人工评审的天花板撞上生产流量,是整篇文章所有自动化方案的起点。前两个数来自原文人工评审段,采样比例来自原文对自动评估成本的建议。

两条路,都不够用

LangChain 的做法是两条路并走:把人力集中到最值钱的样本上,再用 AI 去评 AI 覆盖剩下的量。

第一条路是标注队列:不让评审员在生产日志里大海捞针,而是系统主动把特定记录推到他面前,配好评分标准。推哪些?收到负面反馈的、成本特别高的、某个时间段的。评完的数据可以带上修正,直接进评测数据集。

代价是明确的:占用专职人力,而且从发现问题到改完有延迟。LangChain 自己的经验是,它只在聚焦于少数高价值记录时才划算,别指望靠它做全量覆盖。

第二条路是让大模型当裁判,自动跑在生产流量上,检查回答是否连贯、语气是否合适、有没有泄露敏感信息、格式对不对、用户问的是哪一类问题。人能看几十条,它能看几千条。

但这条路也有账要算:每条记录会增加几秒延迟;全量评估会推高推理成本,所以 LangChain 的建议是只抽 10% 到 20% 的流量评;现成的评估器未必懂你这个产品的「好」是什么意思,得自己定制;随着流量变化,评估器本身还会失准,要不断重调。

LangChain 专门做了一个叫 Align Evals 的工具,用途是在你信任自定义评估器之前,先拿人工标注的结果去校准它。先证明这个裁判和人判得一致,再放它去判几千条。

抽样送评 筛出负反馈/高成本 标记可疑的转人工 提供人工标准答案 校准后才可信 带修正入库 改完重新上线 生产对话记录 每天成千上万条 AI 评估器 抽 10-20% 自动打分 标注队列 人工评审高价值样本 Align Evals 用人工标注校准 AI 裁判 评测数据集 验证修改有没有用
两条路不是替代关系:人工给 AI 裁判提供校准基准,AI 裁判帮人工筛出该看的那几条。原文建议两者结合而非只依赖其一。

通用监控工具差在哪

用 Datadog 这类传统监控工具能扛住延迟和错误率,但在存什么、怎么接开发流程、给谁用这三件事上都对不上。

很多团队一开始都想直接用手上的传统监控工具,LangChain 说这对基础指标是够用的,但三个地方会卡住。

  1. 存的东西不一样:传统工具为结构化日志和数字指标优化。而完整的问答对在生产规模下占的存储量很可观,还需要按语义搜索提示词(不只是关键词匹配),需要完整保留系统消息和示例,需要能维护多轮对话状态的数据结构
  2. 接不进开发闭环:智能体的改进是个循环,生产记录暴露失败案例 → 标注队列评审打标 → 进评测数据集 → 跑实验验证修改有没有用 → 上线后自动评估确认。这要求监控平台和评测框架、开发工具紧密打通
  3. 用的人不一样:传统监控主要给运维工程师用,关心的是系统健康。智能体的监控台前坐着 AI 工程师、产品经理、领域专家、数据科学家,这是一个跨职能团队围着同一批对话记录做决策,界面和流程得为协作设计

第三点最容易被忽略。产品经理会问「用户最常拿我们的助手干什么」,领域专家会问「这个专业问题它答得准不准」。这些人过去根本不看监控面板。

生产记录 暴露失败和边角情况 标注队列 人工评审并打标 评测数据集 把这些例子收进来 实验 验证修改真的变好了 在线评估 上线后确认修好了 最后一步产生的新记录回到第一步,循环继续。
LangChain 认为传统监控工具接不上的就是这条链——每一步之间都要能一键流转。五个环节均按原文列举顺序。

这篇文章是谁写的

LangChain 讲的问题是真的,给的答案通向它自己的产品。判断力在前半部分,后半部分是产品说明书。

前半篇关于输入空间无限、模型不稳定、状态码失效的分析,不依赖任何产品也成立,任何做智能体的团队都会撞上。这部分值得当行业共识读。

后半篇每一个「你需要 X」的结论,落点都是 LangSmith(LangChain 自家的智能体监控平台)的某个具体功能:自动聚类发现使用模式的 Insights Agent、跑在生产流量上的在线评估、自定义看板和告警。文中「我们观察到数十个生产部署的共同模式」,没有给出这些团队是谁、样本怎么选的。

更值得看的是文章自己承认的三个未解问题:AI 评估器还不完美,什么时候能信它、什么时候必须叫人,得看具体场景;全量监控高流量系统很贵,采样比例、自动评估、人工评审之间怎么配平,是个持续的优化题;完整记录问答对和保护用户隐私,天然是冲突的。第三点尤其硬:你要监控质量就得留下用户说过的每一句话,而这些话里可能有地址、病历、账号。文章把它列为「增加了复杂度」,没有给出任何解法。