水印藏在选词里

Anthropic 的办法不是往文字里插看不见的字符,而是在模型每次挑词时,用一把密钥规定哪些词允许被挑。

大语言模型写字是一个词一个词往外蹦的。每写一步,它先算出一批候选词,每个带一个概率,然后从里面挑一个。水印改的不是挑出来的词,是「哪些词允许被挑」。

具体做法:一把只有 Anthropic 掌握的密钥,加上刚写出来的前几个词,一起送进一个固定算法,算出这一步哪些候选算「合法」。模型只从合法的那批里挑。

关键在于,模型面前大多数时候不止一个说得通的选择。「快速」和「迅速」都行,「因此」和「所以」都行。这些岔路口每一个都被密钥筛过一遍。读起来毫无异样,但选择的分布里留下了规律。

1 · 模型算候选 下一个词有一批选项,各带概率 2 · 密钥定名单 密钥加上前几个词,算出哪些候选合法 3 · 只从名单里挑 读起来正常,选词分布留下规律 4 · 检测时逐词回算 同一把密钥、同样的前文,看这词当时合不合法 5 · 统计命中率 远高于瞎猜的水平,判为 AI 生成 整条链条依赖同一把密钥。密钥在谁手里,谁才能检测。
水印从盖到查是一条闭环:前三步在生成时完成,后两步在检测时用同一把密钥反算。依据原文「How to watermark a response」与「How to detect a watermarked text」两节的五个步骤。

检测靠数命中率

检测是反向操作:拿同一把密钥把文章从头重算一遍,看有多少词落在「合法」那一边。

拿到一段文字,对里面每一个词,用同一把密钥加上它前面那几个词,重算一遍当时哪些词算合法。这个词在名单里,就记一次命中。

把整篇走完,统计命中率。人写的文字,命中率应该接近瞎猜的水平;被盖过章的文字,命中率会高出一大截。这个比率就是「像不像 AI 写的」的分数。

这条路想绕开的,是现在那批靠文风猜的检测器。ByteByteGo 这期的作者(未署名)对它们的评价是:

这些 AI 文本检测手段的漏判让我挺烦的,尤其是技术写作。

技术文档本来就写得规整、句式重复、术语固定,人写的和 AI 写的长得太像,猜文风的检测器在这里几乎没有信号可用。水印不猜,只查记号。

代价也在这里。水印只能认出盖过章的那家的输出。别家的模型、下载到自己电脑上跑的模型、以及被人改写过一遍的文字,一律查不出来。

三种跑模型的方式

把公开放出的模型跑在自己机器上,主流有三个工具,区别不在模型,在怎么给请求排队。

Ollama、vLLM、SGLang 都是推理引擎(把模型文件真正跑起来、接收提问并吐出回答的那层程序)。同一个模型,三个都能跑。差别在它们怎么应付同时涌进来的请求。

Ollama 让请求排一条队,先到先算,算完一个再下一个。它跑的是压缩过的模型文件,体积小,一台笔记本电脑能带动。适合自己在本机试东西、做原型。

vLLM 面对的是几千人同时提问。它不让新请求干等,上一批还在算的时候,新来的直接插进这一批一起算,把显卡填满。适合真的对外提供服务。

SGLang 面对的是agent(能自己拆解任务、连着干好几步的 AI 程序)和多轮对话。这类请求有个特点:开头那一大段几乎一模一样,同一套指令、同一份对话历史,每轮都重发一遍。SGLang 认得出这些重复的开头,算过一次就存着,下次直接取,不重算。

怎么排队 跑的是 适合谁 Ollama 请求排一条队,先到先算, 算完一个再下一个 压缩过的模型文件, 体积小 自己在笔记本上试东西、 做原型 vLLM 新请求直接插进正在算的 那一批,不等上一批结束 把显卡算力尽量填满 几千人同时提问的 对外服务 SGLang 认出请求之间重复的开头, 算过一次就存着不重算 专治每轮重发 同一大段前文 AI agent 和多轮对话
同一个模型,三个引擎的区别在排队方式。依据原文「Ollama vs vLLM vs SGLang」一节的机制描述与各自的适用场景。

给 AI 写的说明书

技能包是一份写给 AI 看的操作手册,GitHub 上已经攒出了一个热门榜。

所谓 agent 技能包,就是一份指令加脚本的集合,你把它交给 AI 编程助手,它就学会了一种新的干活方式。截至 2026 年 8 月,GitHub 上被收藏最多的有 12 个,内容五花八门。

几个能看出这个生态在解决什么问题的:

  1. Superpowers(作者 GitHub 账号 obra):逼 AI 先把方案写出来,再动手敲代码,不许上来就写。
  2. skills(TypeScript 教育者 Matt Pocock 的个人技能集):让 AI 先质疑你的方案,按原文的说法,AI 有时候太顺从了。
  3. ui-ux-pro-max-skill:教 AI 别做出一眼就看得出是 AI 做的界面。
  4. graphify(作者 GitHub 账号 safishamsi):把一个项目的全部代码转成一张关系图,让 AI 在里面找得着路。

榜上还有把特斯拉前 AI 总监、OpenAI 创始成员 Andrej Karpathy 关于 AI 写代码常见坑的建议蒸馏成的一份技能包(由 Multica AI 整理),谷歌 Chrome 团队工程负责人 Addy Osmani 打包的工程实践,Anthropic 官方那份让 AI 能直接产出 Word 和 PDF 文件的技能集。也有纯玩的:Julius Brussee 做的 caveman,让 AI 用山顶洞人式的短句回话。

这份榜单本身就是个信号。一年前人们还在琢磨怎么把提示词写好,现在琢磨的是怎么把工作方法打包成文件,发给别人的 AI 用。

12 GitHub 最热的 agent 技能包
截至 2026 年 8 月,GitHub 上被收藏最多的 agent 技能仓库共 12 个。数据来自原文「Top 12 Agent Skills You Should Know」一节。

代码到底躺在哪

Git 难的不是记住命令,是搞不清敲完一条命令之后,你的代码躺在哪个地方。

程序员每天用的版本管理工具 Git 有几百条命令,日常真正用到的只有一小把。原文点出的痛点很准:出问题的从来不是命令本身,是不知道运行完之后代码去了哪儿。

你的代码同时可能待在四个地方:正在编辑的文件(工作区)、挑好准备提交的那批改动(暂存区)、你自己机器上的历史记录(本地代码仓库,就是这个项目的完整档案)、以及团队共用的那份(远程仓库)。

每条常用命令做的事,都是把代码从一个地方搬到另一个地方。git add 从工作区搬进暂存区,git commit 把暂存的存进本地档案,git push 上传到团队那份。反方向,git clone 把整份远程档案拉到本机,git fetch 只下载更新但不动你的文件,git merge 才真正合进来,git pull 是这两步一次做完。

还有一条专门的后悔药:git stash 把你手头没提交完的改动临时收进一个柜子,让你能干干净净地去干别的事,回来再 git stash pop 拿出来。理解了四个地方,命令自己就记住了。

git pull = fetch + merge git merge 真正合进来 git fetch 只下载不改文件 git clone 整份拉下来 git add git commit git push git stash 收起来 git stash pop 拿回来 工作区 你正在编辑的文件 暂存区 挑好准备提交的改动 本地仓库 你机器上的完整历史 远程仓库 团队共用的那一份 stash 柜子 临时收起没提交的改动
每条 Git 命令做的事,都是把代码从一个位置搬到另一个位置。四个主位置加一个临时柜子,九条常用命令的走向依据原文「Git Workflow: Essential Commands」一节。

账本不是传送带

Kafka 和 RabbitMQ 都在系统之间传消息,但一个是可以倒回去重读的账本,一个是发完即走的传送带。

大一点的软件系统内部,各个部分之间靠传消息协作:下单成功了,通知库存、通知物流、通知发票。Kafka 和 RabbitMQ 都干这件事,但内部机制完全不同。

Kafka 是一本按时间往后写的账本。消息写进去就一直在,留多久由保留策略决定,不会因为有人读过就消失。每个读的人自己记着读到第几条,想倒回去重读、重新处理一遍,随时可以。适合同一份数据要被好几方各自独立地用。

RabbitMQ 是个传送带加分拣员。消息发到分拣点,按规则派送到不同的队列,推给对应的处理方;对方确认收到,消息就删掉了。适合把活儿分派出去,一个任务一个人干。

原文点出的典型误用:

常见的错误是把 Kafka 当队列用,或者把 RabbitMQ 当事件日志用。

选错的代价不是慢,是等你想倒回去重放,消息早就没了。

Kafka 是什么 一本按时间往后写的账本, 读过的记录还在, 随时可以倒回去重读 不是什么 不是发一条少一条的任务队列, 消息不会因为有人取走就消失
Kafka 常被当成队列使用,但它的消息按保留策略留存,不因被消费而删除——这正是它和 RabbitMQ 的根本分界。依据原文「Apache Kafka vs. RabbitMQ」一节。

新的一半在补同一个洞

这期清单里一半是刚为 AI 造出来的东西,另一半是二十年没怎么变的老地基。新的那半全指向同一件事:AI 开始自己连着干活了。

把五个话题摆在一起看,分野很清楚。Git 的四个位置、Kafka 和 RabbitMQ 的分工,这些东西十年前就是这个样子,今天还是。它们是地基,不会因为 AI 来了就重修。

新出现的那三样,解决的是同一个问题的三个侧面:

  1. AI 的产出越来越多,分不清是谁写的,于是要在写的时候盖章。
  2. AI 开始自己拆任务、连着干好几步,单靠对话里那几句指令喂不饱,于是要把工作方法打包成文件发给它。
  3. agent 每轮都重发同一大段前文,算力全耗在重复计算上,于是有了专门认重复开头的推理引擎。

三样东西的共同前提是:AI 不再是你问一句它答一句的工具,而是一个会自己往下跑的东西。盖章、写说明书、缓存前文,都是在给一个会自主行动的东西配套。

值得保持清醒的是,这三样里有两样还只是起步阶段。水印是 Anthropic 表达的意图,不是已上线的功能;技能包榜单排的是 GitHub 收藏数,收藏数衡量的是有多少人觉得有意思,不是有多少人真在用它干活。只有推理引擎这一样,是已经跑在生产环境里的成熟工程。