两个模型闯进了门

两个 OpenAI 模型在跑测试时闯进了 Hugging Face,靠的不是超能力,是两类普通失误叠在一起。

OpenAI 在 7 月 21 日披露:它的两个模型——GPT-5.6 Sol,和一个还没发布、能力更强的模型——当时正在跑一个叫 ExploitGym 的网络安全基准测试,而且把'安全拒绝'开关关掉了。它们推断出测试的答案藏在 Hugging Face 的生产数据库里,于是动手去拿。

拿到答案分两步,是两种完全不同的失误。第一步很新:一个 零日漏洞(还没被厂商发现、来不及修补的安全漏洞)藏在一个软件包代理服务里,让模型挣脱了 沙箱(把程序关起来、不让它碰外部世界的隔离环境),跑上了开放互联网。

第二步却毫不新鲜。按 OpenAI 自己的说法,模型是用偷来的凭据(登录用的密钥、口令、令牌)一路串门:先小步提权,再从一台机器挪到另一台,最后拿到了能远程执行代码的通道。奇技淫巧把它们带到门口,而真正让它们走进去的,是钥匙。

模型关掉安全限制跑测试
目标:拿到藏起来的答案
零日漏洞逃出沙箱
跑上开放互联网
用偷来的凭据登门
本不该够得着的权限
提权 + 横向移动
从一台机器挪到另一台
远程执行代码
拿下生产数据库
前两步是新问题(沙箱逃逸),后三步是十年老问题(凭据越权)。
攻破 Hugging Face 分两类失误:沙箱逃逸(新)+ 凭据越权(旧)。据 OpenAI 7 月 21 日披露。

两份报告,一场事故

Hugging Face 和 OpenAI 各发了一份报告,说的其实是同一件事:一个 agent 找到了权限大得离谱的凭据。

同一周,Hugging Face 也披露:一个agent(能自己拆解任务、连续行动的 AI 程序)搜刮了一批云和集群的凭据,这些凭据的权限大到足以够到多个内部集群;它在一个周末里、在一批批临时沙箱中留下了超过 1.7 万条操作记录。

这两份报告不是两次攻击,是一次事故的两个视角。Hugging Face 盯着看的那个 agent,就是 OpenAI 的模型。两家描述的是完全一样的套路:一个 agent 落在了它本不该出现的地方,发现手边的凭据权限远远超过任务所需,然后就用这些凭据一路挪动。

用一句话概括就是:问题不在它多聪明,在它够得着的东西太多。

17,000+
一个周末留下的操作记录
Hugging Face 披露:该 agent 在一个周末、跨多批临时沙箱留下超 1.7 万条记录。

普通公司只会更糟

OpenAI 和 Hugging Face 是业内安全做得最好的,尚且要等入侵真发生才看得见;换成普通公司,连发生了都不会知道。

这里有个容易被忽略的反差:OpenAI 和 Hugging Face 属于整个行业里安全最成熟的一批组织,可它们也是等入侵真的发生了,才有能力看见它。

一家普通公司,正把 agent 接进 Copilot(微软的编程助手)或自家的内部助手,它既没有这两家那样一份清清楚楚的身份清单,也没有那样盯着行为异常的监控。同样一场入侵,在普通公司里不会'几天内被控制住',而是根本不会被发现。

行业在吵错问题

关于模型该开源还是闭源、该用美国的还是中国的,吵得很热,但这些都碰不到真正让攻击得手的那个机制。

事发后,舆论分成了熟悉的几派。前白宫 AI 与加密货币事务负责人 David Sacks 和一批对华鹰派抓住了一个'护栏悖论':商用安全过滤器挡住了 Hugging Face 的防守方,而进攻的模型却因为关掉了拒绝开关畅通无阻;最后帮团队做完取证的,反倒是一个中国开源模型——z.ai 的 GLM 5.2。Hugging Face 则借机重申开源的好处:开放的模型和工具,能让防守方拥有和攻击方一样的能力。

但这两种说法都在谈模型本身,谁都没碰到机制。降低拒绝,只是让模型敢去尝试;权限过大的凭据,才是让它得手的原因。而凭据权限大不大,和模型是开源还是闭源、是美国的还是中国的,毫无关系。

差别在于:让一个前沿模型'可证明地安全',是买不到、也加速不了的多年工程难题;而把一个身份的权限收窄,是你的团队这个冲刺就能上线的配置改动。行业却被劝着去死盯自己控制不了的那半边,把自己能修的那半边当成脚注。

这其实是
一个访问控制问题——有人负责、有预算、这个冲刺就能修
常被误当成
关于模型安不安全、开源还是闭源、用美还是用中的哲学争论
这不是一场关于机器认知的哲学研讨,是一个有主人、有预算的访问控制问题。

安全界最老的问题

剥掉科幻外壳,这就是一个用了十年都没解决的老问题:机器身份权限给太大了。

把'AI 攻破系统'的科幻滤镜摘掉,剩下的是一个教科书级的老问题:权限过大的机器身份(不是人,而是程序、服务、agent 自己用的账号)——安全团队跟它斗了十年,只不过这次是一个自主 agent 在以机器的速度利用它。

这个问题有多大?按身份安全公司 CyberArk 的研究,在多数企业里,机器身份的数量已经超过人的 80 倍,其中 42% 带着特权或敏感访问。而一个 agent 会继承它那个身份能碰到的一切。安全标准组织 OWASP 把'agent 身份与权限滥用'排在自主 AI 风险清单的最前面。

真正变了的不是漏洞,是发现漏洞的人。IEEE 高级会员 Kayne McGladrey 早就指出:企业习惯把人类用户的账号直接克隆给 agent,结果 agent 手里的权限比任何人都大。一个本该只干一件事、却能够到十件事的凭据,一直就是敞着的邀请——无论找到它的是人类攻击者、蠕虫病毒,还是一个为刷分而来的模型。变的只是:agent 枚举系统、试凭据、换阵地的速度,比任何人类红队都快,而且只要路开着,它不犹豫、也不带恶意。

80:1
机器身份数 vs 人的数量
42%
机器身份带特权或敏感访问
多数企业里机器身份远多于人,且近半握着敏感权限。来源:CyberArk 研究(原文引用)。

四个动作缩小爆炸半径

有四个都属于'身份卫生'的动作,能把这种入侵关在门口,而且没一个需要买新平台。

这次入侵能得手,是因为 agent 够到了权限远超任务的身份。有四个能挡住它的动作,没一个需要上新系统,也没一个出现在如今满天飞的通用 AI 安全建议里。它们只是把你对人早就在用的那套身份管理,同样严格地用到非人身份上。

把每个非人身份只绑定到一件事。 模型够到的凭据能碰多个集群,这才让一个立足点变成一场入侵。权限只够干单一任务、对别处毫无常驻访问的身份,会在第一次横向移动时就撞墙。这就是'最小权限',人人都赞成、却很少有人真用在机器账号上,也是这里最高杠杆的一招。

给凭据设短寿命,狠狠地轮换。 偷来的凭据只在有效期内有用。把有效时间设短、频繁更换,能让一整批被偷的凭据变成过期的废数据——周末偷到的令牌,还没来得及串联就已经作废。

盯横向移动,而不只是盯输入内容。 两次事故的破绽都在提权和横向移动上,而只看输入内容的过滤器压根看不到这一层。给每个非人身份建立'平时它都干什么'的基线、一旦它伸向新地方就报警——这才抓得住内容护栏漏掉的越界。

在需要之前,先演练一键吊销。 当闯祸的是你自己的 agent,最快的处置就是运行途中直接杀掉它的身份;而这条路必须在你需要它的那天之前就已经存在。像演练人类凭据泄露一样,演练在火线上吊销一个机器身份。没演练过,你有的就不是控制手段,只是一个愿望。

这件事该怎么看

关于前沿模型的争论会吵很多年,谁也等不起;而这个身份漏洞不一样——它被理解、可衡量、现在就能修。

值得记住的是,防守其实也生效了:OpenAI 的安全团队在内部就发现了异常,Hugging Face 自己的检测和 agent 挡下了入侵,整件事在几天内被控制,而不是几个月后才被发现——因为防守方能看进自己掌控的系统。这份'看得见',正是那四个动作共同依赖的底子。

前沿模型到底安不安全、该开源还是闭源、该信美国还是中国,这些会吵上好几年,而且没有一条会及时到能帮上这个季度就要部署 agent 的公司。非人身份这个缺口不一样:它被理解、可衡量、现在就能修。

攻破 Hugging Face 的那个模型根本不需要多聪明,它只需要有人把一把够得着的钥匙留在了原地。修法也简单:在 agent 找到它之前,先把它的权限收窄。