AI 编名,黑客抢注

AI 会凭空报出一个不存在的软件包名,攻击者抢注它、塞进病毒,等 AI 再次推荐、开发者一装,病毒就进了代码库——这套骗术叫 slopsquatting。

AI 写代码助手会帮你推荐现成的开源包(别人写好、打包好、可以直接装来用的一堆代码和安装工具)。写代码的过程里,它有时会报出一个听起来正经、其实根本不存在的包名——单看这一步,没什么危害。

危害在下一步:攻击者把这个假名字抢注成一个真包,里面塞的不是功能,是病毒。等 AI 下次又推荐这个名字,开发者信手一装,病毒就直接进了代码库。这套玩法有个新名字——slopsquatting(由『AI 生成的垃圾』和『抢注仿冒』两个词拼成)。

AI 编出假包名 写代码时凭空报出一个不存在的库 攻击者抢注 用这个假名字注册成一个真包 塞进恶意代码 包里装的不是功能,是病毒 AI 再次推荐 幻觉不随机,反复报同一个名字 开发者装进代码库 信任补全,病毒直接入库 整条链里,攻击者唯一要做的只是第二步抢注。
slopsquatting 的完整攻击链:AI 的一次编造,如何一步步变成你代码库里的病毒。机制归纳自原文对该攻击的描述。

老骗术拦得住,新的拦不住

传统仿冒靠把流行包名拼错一两个字母,注册平台早已能拦;AI 编的是听起来合理的全新名字,现有防护根本认不出。

typosquatting(拼名抢注:把流行包名拼错一两个字母,骗你装错)已经存在几十年,注册平台早就建了防护。比如流行的包叫 cross-env,平台会拦住仿冒它的 crossenv。

但 AI 把游戏规则改了。它推荐的不是拼错版,而是一个听起来合情合理、却纯属虚构的名字。平台能防『拼错』,防不了『凭空捏造』——像 cross-env-extended 这种,系统根本不会当成威胁。因为这些假名字不是任何流行库的错拼版,大规模拦截无从下手。

是 slopsquatting 是什么 AI 凭空编出、听起来合理 的全新包名,被攻击者 抢注塞病毒 不是 它不是什么 不是把流行包名拼错一个 字母的老式仿冒 (typosquatting)
别把 slopsquatting 当成老式仿冒:一个是 AI 捏造的全新名字,一个是把流行名字拼错一个字母——后者平台能拦,前者拦不住。

AI 为什么老编包名

大模型给的是『统计上最可能』的答案,不是『最准确』的,所以编造在所难免——连最强的模型也压不到某个下限以下。

大模型给你的,是『统计上最可能接下来出现的词』,不是『核实过的事实』。所以它编造(也就是所谓幻觉)是家常便饭。一项研究发现,换不同模型、不同问法,幻觉率在 50% 到 82% 之间浮动;连表现最好的 GPT-4o,把各种提示技巧用尽,也压不到 23% 以下。

更麻烦的是,攻击者还能主动下套:通过给模型喂特定的诱导输入,逼它更频繁地报出攻击者事先想好的那个恶意包名。

开源模型更爱瞎编

一项覆盖 30 个系统的测试发现,AI 生成的软件包近两成是编造的;开源模型的编造率大约是闭源的四倍。

一支研究团队跑了 30 组测试、576,000 份代码样本,一共生成 223 万个包,其中 19.7% 是编造的——差不多每五个就有一个不存在。闭源的 GPT-4.0 Turbo 编造率是 3.59%,开源里表现最好的 DeepSeek 也有 13.63%,前者约是后者的四分之一。

但别急着觉得闭源就安全。研究者提醒:一旦攻击者看清这个差距,反而可能专门去操纵闭源模型,专挑大家『闭源更靠谱』的松懈下手。所谓更安全,只是暂时的。

19.7% AI 生成的包,近两成是编的 3.59% 闭源最佳的编造率 13.63% 开源最佳的编造率
同一项覆盖 30 个系统的测试:AI 生成的包总体 19.7% 是编造的;开源最佳 DeepSeek(13.63%)约为闭源最佳 GPT-4.0 Turbo(3.59%)的四倍。

假包能潜伏好几年

AI 的幻觉不是随机的——同样的假名字会反复出现,一个假包理论上能骗到上万名开发者,还可能在生产环境里潜伏数月甚至数年。

AI 的幻觉不是掷骰子。因为模型『以为』这些包真的存在,它会一而再地报出同样的假名字。这意味着攻击者只要摸清某个模型爱编哪些名字,一个抢注来的包,理论上就能骗到成千上万名开发者。

更糟的是它能潜伏很久。一项分析了 10 种语言、14,675 个包、31,267 个漏洞的研究发现:报告的漏洞每年增长 98%,远快过软件包本身 25% 的年增速;漏洞的平均『存活时间』还涨了 85%。整体安全状况在变差,一个恶意包完全可能在生产环境里埋伏数月、甚至数年无人察觉。

年增长率 报告的漏洞数量 98%/年 软件包数量 25%/年 开源软件包本身的增速
报告的漏洞每年增长 98%,远快过软件包本身 25% 的增速——安全在整体变差。数据出自一项覆盖 10 种语言、14,675 个包、31,267 个漏洞的研究。

越来越多人闭眼用 AI

开发者估计自己提交的代码里超过四成有 AI 参与,用过的人里 72% 每天都在用——用得越多、越不核验,攻击面越大。

如今大量开发者用 AI 辅助写代码,也就是所谓 vibe coding(凭感觉编程:大段代码交给 AI 生成,自己不再逐行细看)。他们估计,自己提交的代码里超过四成有 AI 参与,并预计这个比例几年内还会大涨;用过 AI 的人当中,72% 已经每天都在用。

越多人把 AI 塞进工作流、却不加一道核验,slopsquatting 能下手的空间就越大。

别盲信 AI 的补全

防线不复杂却常被跳过:装任何 AI 推荐的包之前,先去官方仓库确认它真的存在——这波威胁的本质,是 AI 把自己的错误变成了别人的武器。

防线其实不复杂,却常被跳过。三条:

  1. 装之前先核对:把 AI 推荐的包名拿到官方仓库里确认它真实存在,再写进项目。
  2. 上自动校验:让工具自动拿包名和已知的正规仓库比对,在假包进入生产代码前就拦下。
  3. 盯住异常:监控可疑的安装行为,持续跟进已知的 slopsquatting 攻击活动。

往深了看,这件事真正变了的地方是:过去的供应链攻击,要黑客主动去仿冒;现在是 AI 亲手把『看起来很合理的假名字』递到开发者面前,黑客只需坐等有人去装。AI 越被信任、越少被核验,这个漏洞就越好用。