光换模型没用
决定一个 AI agent 好不好用,一大半在模型之外。它能用哪些工具、看得见哪些信息、在哪台机器上跑、每一步谁批准。
做 AI agent 开发框架的公司 LangChain 在这篇公告里把话说得很直白:模型只是其中一块。
agent(能自己拆解任务、连续干好几步活的 AI 程序)和聊天机器人的区别在于,它要真去动东西,读文件、调接口、改数据。这时候卡住它的往往不是模型不够聪明,而是它手上有什么工具、脑子里塞了哪些信息、出错了谁拦得住。
打个比方:同一个厨师,在自家厨房和在陌生厨房,出品完全不同。刀在哪、火候旋钮怎么转、冰箱里有什么,这些不写进菜谱,但决定了这顿饭能不能上桌。LangChain 这次发布的东西,管的就是厨房那部分。
十分之一的账单
英伟达的开放模型 Nemotron 3 Ultra 配上 LangChain 专门调过的外壳,在 LangChain 自家评测里拿到 0.86 分,花费 4.48 美元。分数最接近的对手花了 43.48 美元。
这是整篇公告的硬数字。同一套 agent 评测题,两边分数咬得很近,账单差了将近十倍。
便宜不是白来的。LangChain 说他们专门调了三件事:agent 怎么挑工具、怎么管住上下文、怎么在半路检查自己做得对不对。把模型往框架里一插拿不到这个成绩,这是围着这个模型的脾气重新配了一遍外壳。
需要留个心眼的是,公告没说那个花 43.48 美元的『次优模型』到底是谁。
三层都归你
这套方案叫 NemoClaw,由 LangChain 和英伟达合作推出,卖点是把模型、外壳、运行环境三层的控制权一起交给企业。
三层分别是:英伟达的 Nemotron 3 Ultra,一个可以自己下载、自己改的开放模型(权重公开、能在自家机器上跑的模型);LangChain 的 Deep Agents Code,负责规划、调工具、记事、执行任务的外壳;英伟达的 OpenShell,一个带策略的沙箱(把程序关在隔离环境里跑,它能碰什么由规则说了算)。
LangChain 给出的理由值得注意:企业把 agent 推上生产线之后,真正沉淀下来的资产不是模型,是agent 的记忆、跑过的流程记录、自己攒的评测题库、外壳的配置和微调数据。这些东西装着这家公司独有的门道。在封闭生态里,这批东西不完全归自己。
英伟达创始人兼 CEO 黄仁勋的话说得更满:
未来的 AI 不会是一刀切。公司既会用 AI 云服务,也会造自己的 AI——由自己的数据、门道和工作流塑造,并且在他们经营的任何地方安全运行。
便宜改变的是做法
推理便宜,省下的不只是电费,它改变的是团队敢不敢反复试。
LangChain 这段论证是全文最实在的部分。评测(拿一套固定题目反复考 agent)只有天天跑才有意义:上线前要试提示词、试工具、试不同模型;上线后要盯真实表现,出了问题修完还得补一道题,防止下次又栽在同一个坑。
问题是每跑一次都要真金白银调用模型。一轮贵,团队就少跑几轮。少比几个方案,少试几个变体,本来想给某个细分业务单做一个专门的 agent,一算运营成本就算了。
成本降下来之后,公告列了三件原本做不起、现在做得起的事:
- 上线前和上线后都跑更大的评测题库,不再只抽查
- 同时比对更多模型、外壳和工具的组合
- 给具体领域单独做专门的 agent,并真的去测它
还有一点容易被忽略:不同 agent 要的东西根本不一样。实时接客服电话的 agent,慢一秒用户就走了。在后台并行跑代码任务的 agent,慢几分钟没人察觉,但要求准。质量、成本、速度、管控这四项得一起算。
受监管行业的卡点
安永说,金融、医疗这类受监管行业的客户卡住不是因为技术不行,是没法向监管机构和董事会证明自己管得住 agent。
安永(EY)负责英伟达业务的全球首席商务官 Geoff Vickrey 在公告里给出了一个很具体的场景:客户已经准备好把 agent 从小范围试点推进真实业务,绊住他们的是治理、安全,以及『证明你控制得住』这件事本身。
他给的理由是,开放的 agent 架构能让企业看清 agent 到底怎么运作、数据和推理跑在哪台机器上,也不用押注在某一家封闭生态上。安永正在围绕这套软件栈建实施团队。
除安永外,公告还列了 Baseten、Fireworks、Nebius、Crusoe、DeepInfra、Together AI 这几家做模型托管的公司,负责让企业能在生产环境里真跑起 Nemotron。
这份成绩谁打的分
这套评测是 LangChain 自己出的题、自己判的分,被夸的模型来自合作方英伟达。数字可以当参考,不能当裁决。
该说清楚的三件事:评测套件是 LangChain 自家的;胜出的组合里,模型是合作伙伴英伟达的,外壳是 LangChain 自己的;那个花了 43.48 美元的对手连名字都没公布。这不代表数字是假的,但它是卖方出具的成绩单,没有第三方复现过。
更值得琢磨的是这套叙事本身的指向。LangChain 反复强调的是『这些东西该归你』,记忆、流程记录、评测题库、微调数据。这个说法对英伟达和 LangChain 都成立:英伟达希望企业买卡自己跑模型,LangChain 希望企业用它的框架攒下这些资产。开放确实是真的,但开放本身就是一门生意,它对着的是按 token 计费的封闭 API 那一头。
对普通企业来说,可拿走的判断是:如果你的 agent 一天要被调用几十万次,或者你所在的行业必须向监管交代每一步,那么『在自己机器上跑一个能改的模型』这条路开始算得过账了。如果只是想让公司里几个人用上 AI 助手,这套三层架构是明显的过度装备。