AI 编名,黑客抢注
AI 会凭空报出一个不存在的软件包名,攻击者抢注它、塞进病毒,等 AI 再次推荐、开发者一装,病毒就进了代码库——这套骗术叫 slopsquatting。
AI 写代码助手会帮你推荐现成的开源包(别人写好、打包好、可以直接装来用的一堆代码和安装工具)。写代码的过程里,它有时会报出一个听起来正经、其实根本不存在的包名——单看这一步,没什么危害。
危害在下一步:攻击者把这个假名字抢注成一个真包,里面塞的不是功能,是病毒。等 AI 下次又推荐这个名字,开发者信手一装,病毒就直接进了代码库。这套玩法有个新名字——slopsquatting(由『AI 生成的垃圾』和『抢注仿冒』两个词拼成)。
老骗术拦得住,新的拦不住
传统仿冒靠把流行包名拼错一两个字母,注册平台早已能拦;AI 编的是听起来合理的全新名字,现有防护根本认不出。
typosquatting(拼名抢注:把流行包名拼错一两个字母,骗你装错)已经存在几十年,注册平台早就建了防护。比如流行的包叫 cross-env,平台会拦住仿冒它的 crossenv。
但 AI 把游戏规则改了。它推荐的不是拼错版,而是一个听起来合情合理、却纯属虚构的名字。平台能防『拼错』,防不了『凭空捏造』——像 cross-env-extended 这种,系统根本不会当成威胁。因为这些假名字不是任何流行库的错拼版,大规模拦截无从下手。
AI 为什么老编包名
大模型给的是『统计上最可能』的答案,不是『最准确』的,所以编造在所难免——连最强的模型也压不到某个下限以下。
大模型给你的,是『统计上最可能接下来出现的词』,不是『核实过的事实』。所以它编造(也就是所谓幻觉)是家常便饭。一项研究发现,换不同模型、不同问法,幻觉率在 50% 到 82% 之间浮动;连表现最好的 GPT-4o,把各种提示技巧用尽,也压不到 23% 以下。
更麻烦的是,攻击者还能主动下套:通过给模型喂特定的诱导输入,逼它更频繁地报出攻击者事先想好的那个恶意包名。
开源模型更爱瞎编
一项覆盖 30 个系统的测试发现,AI 生成的软件包近两成是编造的;开源模型的编造率大约是闭源的四倍。
一支研究团队跑了 30 组测试、576,000 份代码样本,一共生成 223 万个包,其中 19.7% 是编造的——差不多每五个就有一个不存在。闭源的 GPT-4.0 Turbo 编造率是 3.59%,开源里表现最好的 DeepSeek 也有 13.63%,前者约是后者的四分之一。
但别急着觉得闭源就安全。研究者提醒:一旦攻击者看清这个差距,反而可能专门去操纵闭源模型,专挑大家『闭源更靠谱』的松懈下手。所谓更安全,只是暂时的。
假包能潜伏好几年
AI 的幻觉不是随机的——同样的假名字会反复出现,一个假包理论上能骗到上万名开发者,还可能在生产环境里潜伏数月甚至数年。
AI 的幻觉不是掷骰子。因为模型『以为』这些包真的存在,它会一而再地报出同样的假名字。这意味着攻击者只要摸清某个模型爱编哪些名字,一个抢注来的包,理论上就能骗到成千上万名开发者。
更糟的是它能潜伏很久。一项分析了 10 种语言、14,675 个包、31,267 个漏洞的研究发现:报告的漏洞每年增长 98%,远快过软件包本身 25% 的年增速;漏洞的平均『存活时间』还涨了 85%。整体安全状况在变差,一个恶意包完全可能在生产环境里埋伏数月、甚至数年无人察觉。
越来越多人闭眼用 AI
开发者估计自己提交的代码里超过四成有 AI 参与,用过的人里 72% 每天都在用——用得越多、越不核验,攻击面越大。
如今大量开发者用 AI 辅助写代码,也就是所谓 vibe coding(凭感觉编程:大段代码交给 AI 生成,自己不再逐行细看)。他们估计,自己提交的代码里超过四成有 AI 参与,并预计这个比例几年内还会大涨;用过 AI 的人当中,72% 已经每天都在用。
越多人把 AI 塞进工作流、却不加一道核验,slopsquatting 能下手的空间就越大。
别盲信 AI 的补全
防线不复杂却常被跳过:装任何 AI 推荐的包之前,先去官方仓库确认它真的存在——这波威胁的本质,是 AI 把自己的错误变成了别人的武器。
防线其实不复杂,却常被跳过。三条:
- 装之前先核对:把 AI 推荐的包名拿到官方仓库里确认它真实存在,再写进项目。
- 上自动校验:让工具自动拿包名和已知的正规仓库比对,在假包进入生产代码前就拦下。
- 盯住异常:监控可疑的安装行为,持续跟进已知的 slopsquatting 攻击活动。
往深了看,这件事真正变了的地方是:过去的供应链攻击,要黑客主动去仿冒;现在是 AI 亲手把『看起来很合理的假名字』递到开发者面前,黑客只需坐等有人去装。AI 越被信任、越少被核验,这个漏洞就越好用。