存了数据才抓得住

真正厉害的滥用会把动作拆散在几十个会话、几个账号里,只看单次对话什么也发现不了。想检测,就必须把数据留一段时间。

Anthropic 说,过去几个月它看到了大量针对 AI 模型的滥用尝试。低端的是诈骗,高端的是复杂网络攻击,其中包括 agent(能自己拆解任务、连续干活的 AI 程序)自主实施破坏性行为。有些案例里被盗用的是企业客户的凭据(登录用的账号、密钥这类东西),这种事不看流量、不比对异常行为,根本发现不了。

难点在于时间跨度。最复杂的滥用会把一件事拆成很多小任务,散布在多个会话和多个账号上,每一次单看都人畜无害。Anthropic 的说法是,对每次交互跑一遍自动分析然后立刻把数据扔掉,不够用;有效检测需要把数据存上一段有意义的时间,才能跨时间、跨账号把线索串起来。

所以从 Claude Fable 5 开始,Anthropic 把企业数据保留期设成了 30 天。这一步正好撞上另一件事:很多受监管行业的企业,根本不被允许把数据交给外部厂商存。Anthropic 在原文里专门澄清了动机。

Anthropic 从未在未获明确许可的情况下用企业数据训练模型,将来也不会。

日志留在你自己的云上

Enterprise Frontier Safeguards 的做法是:活动日志写进客户自己的云存储桶,用客户自己的加密密钥,Anthropic 的检测程序过来扫,发现问题直接通知客户的安全团队。

客户可以把用于监控的活动数据存在自己的 Amazon S3、Azure Blob Storage 或 Google Cloud Storage 账户里,加密密钥、访问策略、审计日志全归自己管。Anthropic 不再是一个需要被写进供应商名单的「受信数据商」。企业为了增加一家这样的供应商,得通知自己所有的客户、改合同、再过一遍内部的数据存储与审计要求,这是实打实的工作量。

检测逻辑没变:自动系统分析一个滚动时间窗内的流量,找严重滥用的信号,包括试图开发攻击性网络能力或生物能力的迹象、以及凭据被盗或泄露的痕迹。变的是数据落在谁家、钥匙在谁手上。

富国银行的说法把这件事讲得最清楚:

我们的日志留在 Wells 管理的环境里,用 Wells 管理的密钥。数据的保管权在我们手上,检测由 Anthropic 来跑。
活动日志写入 读取并扫描 命中即告警 密钥、访问策略、 审计日志归客户 无权查看 日常使用 Claude 员工与 agent 产生的活动数据 Anthropic 自动检测 扫一个滚动时间窗的流量 客户自己的云账户 S3 / Azure Blob / GCS,客户密钥 客户安全团队 收到告警,自己判断处置 Anthropic 员工 不参与人工审查
数据留在客户自己的云账户里,Anthropic 的程序读它、扫它,但告警只流向客户自己的安全团队。

复核的人必须是自己人

EFS 全程没有 Anthropic 员工做人工审查,因为受监管行业的规则明确规定了谁才有资格看某些材料。

自动系统再准,也需要有人看一眼告警,确认是真滥用还是误报。Anthropic 从客户那里听到的反馈是:做这个复核的人,必须是他们自己的人。

理由是法规。很多企业受制于严格规定谁可以接触特定信息的规则:受律师保密特权保护的法律材料、非公开信息、药物安全报告。他们自己的团队已经为此受过训、拿过授权,外人不行。

于是 EFS 的分工是:自动系统负责扫,命中的信号直接送到客户手里,客户的人接手处理。Anthropic 的员工不参与。

EFS 做到了什么 日志留在客户自己的云账户, 用客户自己的密钥, Anthropic 员工不看 它没做到什么 不等于没人监控—— Anthropic 的自动检测程序 照样扫描这些日志
零数据保留常被听成"没人看得见我的数据"。EFS 换掉的是数据存在谁家、钥匙归谁,不是取消监控本身。

银行 CISO 出的题

EFS 是和 100 多家企业一起设计的,其中包括美国最大几家银行的首席信息安全官。

参与的行业横跨金融、医疗、制造、电信、法律、零售和公共部门,云端合作方是 AWS、Google Cloud 和 Microsoft Azure。Anthropic 说,这些对话覆盖了财富 100 强的四分之一,以及每一家美国的全球系统重要性银行。

其中一个组织叫 ARC(Analysis and Resilience Center for Systemic Risk,系统性风险分析与韧性中心),成员是美国最大几家银行的首席信息安全官,包括高盛、摩根士丹利、花旗、美国银行和富国银行。ARC 有八家成员和 Anthropic 一起定义了在一家系统重要性银行内部跑最强模型需要满足什么条件:

  1. 谁持有数据
  2. 谁持有密钥
  3. 自动审查能看到什么、看不到什么
  4. 在什么条件下才允许有人去看

非金融的参与方包括 Comcast、KPMG、Mastercard、Salesforce 和 Visa。Snowflake、Stripe、FIS、Cognition、Factory 也在原文里表了态,大意一致:数据留在客户环境、密钥归客户,最强的模型第一天就能用。

100+ 共同设计 EFS 的企业 1/4 覆盖的财富 100 强比例 8 参与定标准的 ARC 成员银行
三个数字都在回答同一件事:有多少家企业真的参与了设计。原文还称覆盖了每一家美国的全球系统重要性银行。

免费,存储费自付

Anthropic 不为 EFS 收费,但客户自己的云账单照付;三项能力都是可选开关,不是打包强制。

客户自有存储、客户自管加密密钥、全自动审查,三项各自 opt-in(默认关闭、要用才开),按组织需要挑。它们不改变模型行为、API 定价和速率限制。如果客户选择把数据存在自己的云账户里,云厂商会像对待任何其他资源一样,就存储、读写和数据出口流量向客户收费。

覆盖范围是 Claude Code、Claude Enterprise、Claude Platform,以及 Amazon Bedrock、Google 的 Agent Platform 和 Microsoft Foundry。不管是直接从 Anthropic 接入还是走云伙伴,控制能力对等。

时间表是今年秋天晚些时候开始分阶段推出。过渡期内,符合条件的客户在 Fable 5 和 Fable 5.1 上继续享有零数据保留(数据用完立刻丢弃、一点不存),直到 EFS 就绪。

它真正卖的是准入

EFS 表面上是隐私方案,实际上是一张门票,让此前因为合规根本不能碰 AI 的业务可以开始用最强的模型。

原文里有一句没有署名的客户发言,比任何隐私承诺都更能说明动机:

这些保障让我们能把 AI 用到以前根本不可能用的业务上。

对一家受监管的机构来说,模型聪明到什么程度是次要的;数据能不能留在自己账户里,才决定这个模型能不能进门。Anthropic 花力气和 100 多家企业共同设计架构,解的不是技术问题,是准入问题。

还有一层:EFS 把「要不要监控」变成了默认成立的前提。Anthropic 的立场很清楚,前沿模型必须被持续扫描,能谈的只是数据放哪、谁来看告警。这套方案把争论从「信不信厂商的政策承诺」挪到了「架构上谁拿着钥匙」,对企业是好事,但也意味着不接受监控这个选项,从一开始就不在桌上。

Anthropic 在同一页的相关内容里提到,7 月 30 日它报告过三起 Claude 模型未经授权访问真实计算机系统的事件,并计划和 METR(一家独立评估 AI 模型能力与风险的机构)合作做独立审查。「模型自主越界」不是假想出来的风险场景,是已经发生过的事。这也是 EFS 存在的现实理由。