同一把刀,两个方向
找漏洞和造攻击是同一种本事,所以最能帮防守方的 AI,也最能帮攻击者。
网络安全里有个绕不开的事实:发现一个软件漏洞和利用这个漏洞,靠的是同一套推理能力。你得读懂代码在干什么、想清楚哪里能被绕过、推演出什么输入会让它出错。防守方拿这套能力去打补丁,攻击者拿它去写入侵程序。
Anthropic 把这类能力叫 dual-use(双重用途,意思是同一项本事既能防守也能进攻)。它家最强的模型 Claude Mythos 5 在这方面的水平,高到公司自己不敢直接开放给所有人用。
难题就在这里。医院、电网、银行的安全团队急需这种能力,但只要模型对外开放,想入侵医院电网的人也能同样用上。
先给少数人用四个月
今年 4 月起,这个模型只发给了一小撮守护关键软件的机构,让他们抢在攻击者之前把洞补上。
Anthropic 管这个叫 Project Glasswing。做法是把当时最强的模型 Claude Mythos Preview(以及后来的 Mythos 5)只交给一小批组织,那些负责保护世界上最关键软件的人。
逻辑很直白:能力相当的模型早晚会普遍开放,也早晚会落到坏人手里。既然拦不住,那就抢一个时间差。让防守方先用四个月,把已经存在的洞找出来补掉。等攻击者拿到同等工具时,最好挖的那批洞已经没了。
中间还有一步过渡:Claude Fable 5 面向所有人开放,但把双重用途的网络安全活儿整个屏蔽掉了。想用它找漏洞?不行。这是拿功能阉割换普及面。
危险的是对话框
Anthropic 的判断是:风险不在模型有多强,而在于人能不能直接跟它对话。
原文写得很明确:
最危险的行为发生在用户直接接触模型的时候,恶意使用者可以试图把它引导向有害用途。
但如果用户只能拿到特定的输出,比如一个漏洞补丁或一条安全告警,风险就低得多。
这个区分是全部四项新举措的共同地基。直接访问意味着无限次试探:改一句提示词、换个说法、假装是在做研究,一遍遍绕过防线,总有一次能成。而如果中间隔着一个只会吐补丁的界面,攻击者连提问的机会都没有。
打个比方:一家药厂可以把配好的药卖给你,但不会把配方和反应釜一起交给你。药能治病,配方能做别的。
装进别人的工具里
最强的模型会被塞进安全厂商现成的产品后台,用户用着产品,不知道背后是谁在算。
守着医院、公用事业、金融系统和软件供应链的安全团队,手上早就有一整套工具:处理告警的、响应事故的、做威胁情报的。Anthropic 的判断是,让前沿能力最快落地的办法,是钻进这些工具里,而不是让防守方再学一个新产品。
很多合作伙伴已经基于 Claude Opus 做出了安全产品,帮安全团队分拣告警、识别威胁、修补漏洞。现在这些产品的后台会换成更强的 Mythos 5。
关键在于用户接触不到模型。原文举的例子是:一个修漏洞的工具,输出是一份补丁建议清单。这份清单是 Mythos 5 生成的,但用户没有任何途径让模型改口去写一个攻击程序,他连输入框都没有。Anthropic 和合作伙伴还各自装了防滥用措施,盯着模型别越界。
这项工作刚开头,Anthropic 说会随时间扩大。做安全产品的公司可以去登记意向。
企业版可以扫自己的代码
买了 Claude 企业版的公司,现在能让最强模型扫自家代码库找漏洞,但每个补丁都得有人签字。
Claude Security 这个功能即日起跑在 Mythos 5 上,目前处于公开测试阶段,只对企业版客户开放。费用按普通的用量计费,不额外收钱。
流程是:管理员在后台打开这个功能,用户选一个代码仓库(公司存放自己全部源代码的地方),让 Mythos 5 扫一遍。扫完每条发现都会带上四样东西:
- 漏洞归属的 CWE 类别(一套国际通用的软件缺陷分类编号,相当于给漏洞贴标准标签)
- 置信度评分,模型对这条发现有多确定
- 严重度评分,真被利用会有多糟
- 一条建议的修复方案
有两条边界划得很死。第一,扫描用的 Mythos 5 权限不外溢,想真动手改代码,用的是你公司本来就有权限的那些模型,不会因为扫了一次就多拿到 Mythos 的使用权。第二,每一个补丁都必须经人工审核批准才能落地,模型不自动改你的代码。
这项功能只能扫你自己拥有的代码,返回的是整理好的发现,不是模型的原始输出。Anthropic 的说法是:防守方拿到了 Mythos 5 的能力,模型本身却没有变得可接触。
3500 万给无人付费的代码
全世界最常用的一批程序跑在开源软件上,而这些项目常由志愿者维护,没钱也没人手做安全。
这是整篇文章里最该被注意的结构性问题。你手机上、银行里、医院系统里跑的程序,底层大量依赖开源软件:代码公开、任何人可用、通常由志愿者或非营利基金会维护。它们被用得极广,却往往缺乏资源和人手来系统性地防御攻击。
之前在 Project Glasswing 里,Anthropic 已经向开源安全组织直接捐了 400 万美元,给参与项目的开源安全基金会提供额度,帮忙扫描和修补广泛使用的项目,并支持了 Akrites、Gold Eagle 这类协同修漏洞的行动。
新成立的 Defender Advantage Fund(代号 0xDAF)在此基础上加码到 3500 万美元的 Claude 额度。注意是额度不是现金,拿到的组织是用 Claude 来干活,不是拿钱发工资。资助集中在三个方向:
- 修补广泛使用项目里正在暴露的活漏洞
- 把扫描和修补自动化,做成别的项目能照抄的方案
- 帮项目采用更有野心的安全设计,让整类攻击直接失效
先做少数几笔较大的试点资助,看什么办法真的管用、真的能铺开。首批受助方名单未来几周公布。
给通过审核的人松绑
安全公司可以申请一个白名单,通过后模型对他们的拦截会放宽,以后连最强模型也会开放。
这个叫 Cyber Verification Program(网络安全验证计划),做的是另一个方向的事:把人筛一遍再决定放多松。
现状是,通过审核的组织在使用 Claude Opus 和 Sonnet 时会享受降低的安全限制。原因很实际:安全公司做的本来就是攻防工作,正常模型会频繁把他们的合法请求判成恶意请求而拒绝,干扰工作。
接下来几周会有两处扩展。漏洞分拣和验证这类防御能力,会延伸到 Mythos 级别的模型;同时通过审核的防守方在 Opus 和 Sonnet 上会遇到更少的拦截。另外,Project Glasswing 仍在继续扩大 Mythos 的接触面,合作方是美国政府,对象限定为满足严格安全控制要求的关键基础设施保护者。
Anthropic 建议所有做正当安全工作的团队现在就去申请,已通过的不用做任何事。
这套设计的代价
拿走结论、不给模型,确实降低了滥用风险,但同时也把「谁算防守方」的裁定权,交到了 Anthropic 自己手里。
先说这套设计立得住的地方。风险在于直接对话这个判断是对的,能反复试探的接口才是真正的攻击面,只输出补丁的产品确实难以被诱导。这是实打实的架构取舍,不是公关话术。
但代价同样实在。整套体系里,每一道门的钥匙都在 Anthropic 手上:谁能进 Project Glasswing,谁能通过 Cyber Verification Program 的审核,哪家安全厂商能把 Mythos 5 接进产品,3500 万额度给谁。审核标准没有公开,申诉渠道没有提,拒了谁也不会有人知道。一家私营公司实际上在裁定,全球哪些机构算「值得信任的防守方」。
还有一层更基本的不对称:这些防线拦得住想用 Claude 搞事的人,拦不住用别家模型的人。开源权重的模型一旦发布就收不回,没有分级、没有白名单、没有人工审核。Anthropic 那套让防守方先跑四个月的时间差策略,押的是攻击者只能等前沿模型开放。这个前提能成立多久,文章没说。
还有一个数字值得拿出来对照:400 万美元的直接捐款,3500 万美元的额度。后者是前者的近九倍,但额度是自家产品,花出去的是算力成本不是现金。这既是慷慨,也是把开源安全的基础设施,建在了一家公司的模型之上。这个判断是我的推断,原文没有讨论额度与现金的差别。