两种软件,两种坏法
传统软件的用户只能按你给的按钮,AI 智能体的用户想说什么说什么。测试覆盖不了的地方,从「少数边角」变成了「绝大多数」。
传统软件的输入是有限的。用户点按钮、填表单、走你设计好的流程。做一个退款功能,你知道用户必然是:进「订单记录」→ 点某个订单 → 点「申请退款」→ 在几个预设选项里选一个。路径固定,所以能穷举,所以能测试。
智能体(能自己拆解任务、调用工具、连续干活的 AI 程序)接的是自然语言,而自然语言没有「合法输入清单」。同样是要退款,LangChain 举了四种说法:
「我想退货」 「上周买的鞋能帮我把钱退回来吗?」 「收到的东西是坏的,我有什么选择?」 「订单 12345 退款」
意图完全一样,字面毫无共同点。而这还只是四种,真实用户有几千种。你没法在上线前预测你的智能体会被怎么用,只能等真实用户开口。
同一句话,两次不同答案
大模型对措辞的细微变化很敏感,同样的输入也可能给出不同结果。开发阶段跑通的,上线后不保证还通。
这不是 bug,是大语言模型(ChatGPT 背后那类技术)的工作方式。它生成文字时带有随机性,而且对措辞、上下文、指令顺序的微小改动都会有不同反应。
后果很具体:一句在测试里稳定工作的提示词,碰到你没见过的边角情况就可能失灵;一个在评测里工具选得挺准的智能体,遇到措辞稍微不同的提问,可能就调错了工具。
传统软件里,同样的输入必然得到同样的输出,这是你调试一切问题的地基。智能体把这块地基抽掉了。
状态码看不出好坏
监控要从系统指标挪到对话内容本身,因为智能体的失败不表现为报错。
传统监控工具盯的是延迟、流量、错误率、资源占用。一次网页请求在日志里就是一行:`POST /api/checkout 200 OK 342ms`。这一行足够判断它成功了。
智能体不行。它可能全程零报错,每一步都返回成功,但答非所问、语气冒犯、检索到了不相关的资料。这次对话到底行不行,从状态码里读不出来。
LangChain 列了三样必须记录的东西:
- 完整的问答对:不只记「发生了一次请求」,要记用户具体问了什么、智能体具体答了什么
- 多轮上下文:一次完整对话往往跨好几个来回,得把相关的记录归到一起
- 中间步骤的完整轨迹:智能体到达答案的路上调了哪些工具、怎么推理的,每一步都要能看到,不能只留最后那句回复
人工看不过来
判断一次回答好不好本质上需要人,但人一小时只能认真看 50 到 100 条,量一上来就彻底不够。
「这个回答有用吗?」「它理解用户的意思了吗?」「语气合适吗?」这些问题没有客观标准答案,得靠人判断。
开发阶段这完全可行:你自己翻记录、改提示词、再试一遍。但上线之后是成千上万甚至上百万次交互。LangChain 给的数字是:一个评审员每小时能有效评估 50 到 100 条记录;按每天 1000 次请求算,全量人工评审需要每天 10 到 20 小时的专职人力。
这还只是每天 1000 次。对一个面向用户的产品来说,这个量级相当小。
两条路,都不够用
LangChain 的做法是两条路并走:把人力集中到最值钱的样本上,再用 AI 去评 AI 覆盖剩下的量。
第一条路是标注队列:不让评审员在生产日志里大海捞针,而是系统主动把特定记录推到他面前,配好评分标准。推哪些?收到负面反馈的、成本特别高的、某个时间段的。评完的数据可以带上修正,直接进评测数据集。
代价是明确的:占用专职人力,而且从发现问题到改完有延迟。LangChain 自己的经验是,它只在聚焦于少数高价值记录时才划算,别指望靠它做全量覆盖。
第二条路是让大模型当裁判,自动跑在生产流量上,检查回答是否连贯、语气是否合适、有没有泄露敏感信息、格式对不对、用户问的是哪一类问题。人能看几十条,它能看几千条。
但这条路也有账要算:每条记录会增加几秒延迟;全量评估会推高推理成本,所以 LangChain 的建议是只抽 10% 到 20% 的流量评;现成的评估器未必懂你这个产品的「好」是什么意思,得自己定制;随着流量变化,评估器本身还会失准,要不断重调。
LangChain 专门做了一个叫 Align Evals 的工具,用途是在你信任自定义评估器之前,先拿人工标注的结果去校准它。先证明这个裁判和人判得一致,再放它去判几千条。
通用监控工具差在哪
用 Datadog 这类传统监控工具能扛住延迟和错误率,但在存什么、怎么接开发流程、给谁用这三件事上都对不上。
很多团队一开始都想直接用手上的传统监控工具,LangChain 说这对基础指标是够用的,但三个地方会卡住。
- 存的东西不一样:传统工具为结构化日志和数字指标优化。而完整的问答对在生产规模下占的存储量很可观,还需要按语义搜索提示词(不只是关键词匹配),需要完整保留系统消息和示例,需要能维护多轮对话状态的数据结构
- 接不进开发闭环:智能体的改进是个循环,生产记录暴露失败案例 → 标注队列评审打标 → 进评测数据集 → 跑实验验证修改有没有用 → 上线后自动评估确认。这要求监控平台和评测框架、开发工具紧密打通
- 用的人不一样:传统监控主要给运维工程师用,关心的是系统健康。智能体的监控台前坐着 AI 工程师、产品经理、领域专家、数据科学家,这是一个跨职能团队围着同一批对话记录做决策,界面和流程得为协作设计
第三点最容易被忽略。产品经理会问「用户最常拿我们的助手干什么」,领域专家会问「这个专业问题它答得准不准」。这些人过去根本不看监控面板。
这篇文章是谁写的
LangChain 讲的问题是真的,给的答案通向它自己的产品。判断力在前半部分,后半部分是产品说明书。
前半篇关于输入空间无限、模型不稳定、状态码失效的分析,不依赖任何产品也成立,任何做智能体的团队都会撞上。这部分值得当行业共识读。
后半篇每一个「你需要 X」的结论,落点都是 LangSmith(LangChain 自家的智能体监控平台)的某个具体功能:自动聚类发现使用模式的 Insights Agent、跑在生产流量上的在线评估、自定义看板和告警。文中「我们观察到数十个生产部署的共同模式」,没有给出这些团队是谁、样本怎么选的。
更值得看的是文章自己承认的三个未解问题:AI 评估器还不完美,什么时候能信它、什么时候必须叫人,得看具体场景;全量监控高流量系统很贵,采样比例、自动评估、人工评审之间怎么配平,是个持续的优化题;完整记录问答对和保护用户隐私,天然是冲突的。第三点尤其硬:你要监控质量就得留下用户说过的每一句话,而这些话里可能有地址、病历、账号。文章把它列为「增加了复杂度」,没有给出任何解法。