自己先当小白鼠

Cloudflare 有条内部规矩:要用外部厂商的产品,得你来举证为什么自家产品不行。

这条规矩写进了 Cloudflare 的内部工程规范,他们管它叫 Codex。原话是:

我们不只是为别人造产品;我们造产品是为了运行 Cloudflare 自己。我们是自己的第一个、也是最苛刻的客户。

公司内部把这套做法叫 Customer Zero(零号客户)。产品在卖给任何付费客户之前,先拿自家的基础设施跑一遍。如果产品要崩,先崩在自己身上。崩在自己身上,团队就没法拖,只能立刻修。

这次的对象是 EmDash,一款专为 Astro 框架和 Cloudflare 环境打造的 CMS(内容管理系统,就是写文章、排版、发布、管图片的后台)。Cloudflare 博客原来用的 CMS 有些限制,EmDash 又刚上线,于是他们成了内部第一个把它用于真实生产的团队。

先问两件事

搬家前他们只关心两个问题:这东西能用吗,扛得住吗。

第一个问题是能不能用。团队把日常操作挨个跑了一遍:发一篇文章然后撤下来、从零写一篇新的、设定一个未来时间自动发布、往文章里加图片和视频。

大部分流程都没问题。毛病集中在几处:Cloudflare 博客的体量太大,图片、内容搜索、作者署名这几块顶不住;多语言、搜索引擎优化、内容安全策略上有些细节没覆盖;编辑器本身有些拖慢发稿的小别扭,比如自定义 HTML 模块不好找、长文章往下滚时排版工具条会跑出视野。

最大的漏洞是定时发布,这个功能直到 EmDash 更新到 0.19.0 版才真正可用。对一个还没发 1.0 的软件来说,缺功能不奇怪。但用他们自己的说法,这绝对不是那种你想等到预定发布时间过了才发现的问题。

每秒七千次的模拟洪水

第二个问题用三种压力测试回答:慢慢加、加到崩、以及一上来就砸。

Cloudflare 博客的流量极不均匀。平时每秒约 75 次请求,会飙到每秒 5000 次以上。有些高峰对得上新文章的发布时间,说明那篇火了;有些出现在一天中任意时刻,包括深夜。团队的判断是,有人故意给他们送点流量,想看看会发生什么。

他们用 k6(一款开源的性能测试工具)搭了三种场景:一种是把请求量慢慢加到平时的三倍再降下来;一种是十分钟内从零加到每秒 100 次,加到崩为止,看极限在哪;还有一种最狠,开局就直接砸下每秒 7000 次请求,持续一分钟,看系统什么反应。

每种场景的及格线都写死了:出 5xx 服务器错误的请求超过 0.01% 算失败;超过 5% 的响应慢于 0.5 秒算失败;超过 1% 的响应慢于 1 秒算失败。

每秒请求数(RPS) 平时正常负载 75 RPS 真实流量峰值 5,000+ RPS 新文章走红或有人故意灌流量时 压测瞬时冲击 7,000 RPS 开局直接砸,持续 1 分钟
压测强度约为日常负载的 93 倍、真实峰值的 1.4 倍。数据均来自 Cloudflare 原文所述。

四层缓存垫底

最终的架构核心是层层缓存:静态文件九成九不碰后端,整体七成请求不碰数据库。

跑完测试,团队定下了生产环境的组合:EmDash 跑在 Cloudflare Worker(一种把代码部署在全球各地节点上、就近执行的服务)上;前面挡着新的 Workers Cache,他们自称是第一个这么用的大型站点;再加上 EmDash 团队专门为这次迁移做的对象缓存;数据库那头走 Cloudflare 自家的 Hyperdrive 连 PlanetScale。

这几层按离读者的远近排,越靠上离读者越近。效果是:99.5% 的静态文件和 70% 的请求直接由缓存返回,压根不惊动数据库。

可以把它想成一家连锁便利店。常卖的货堆在门口货架(缓存),顾客进门就拿走;只有货架上没有的,店员才去后面仓库(数据库)翻。门口的货备得越全,仓库越闲,顾客也走得越快。

读者发出请求 打开一篇博客文章 Workers Cache 离读者最近,先看这里有没有现成的 对象缓存 EmDash 团队为这次迁移专门做的 EmDash on Worker 就近节点上执行的程序 Hyperdrive → 数据库 前面都没命中,才走到这一步 99.5% 的静态文件和 70% 的请求在前几层 就被返回,走不到 最后一步
请求由近及远穿过四层,多数在前几层就被拦下。缓存命中率数字来自 Cloudflare 原文。

从 1% 开始换

上线当天没有一次性切换,而是先放 1% 的读者过去,再一档一档往上加。

团队的硬性要求是零停机,外加一个能随时退回去的后路。做法是先部署一个代理 Worker 挡在最前面,给请求打上版本标记,据此决定这个人看到新站还是老站。新站一旦冒出 500 错误,流量自动退回老博客。

这个代理还用了一个叫服务绑定的技巧:代理 Worker 直接把请求递给新博客的 Worker,不走公网域名、不查 DNS、不重新握手加密、不新建一条对外的网络连接。等于是同一栋楼里两个部门之间直接递文件,而不是把文件塞进信封、贴邮票、寄出去再由前台收进来。

8 月 12 日当天,放量顺序是 1%、5%、15%,一档一档往上,每档都先确认系统健康。这个节奏让他们在绝大多数读者毫无察觉的情况下逮到了几个临门一脚才暴露的边缘问题。当天结束时,100% 的流量已经跑在新平台上。

启动 代理 Worker 上线,按版本标记分流 第一档 1% 流量进入新博客 第二档 提到 5%,确认系统健康 第三档 提到 15%,逮到几个边缘问题 当天结束 100% 流量切换完成
8 月 12 日当天完成从 1% 到 100% 的全部放量,全程保留回退老博客的后路。

快了,而且是稳定地快

新架构最大的改善不在峰值速度,而在速度不再忽快忽慢。

对比迁移前后的 P95 响应延迟,老平台在负载压上来时会周期性地出现延迟尖峰。读者的实际感受就是这个网站平时挺快,偏偏在最多人看的时候卡一下。新系统的曲线则平得几乎看不出起伏。

一个网站快 50 毫秒,没人察觉;一个网站在别人都在看的那一刻卡住,每个人都记得。

迁移后的实际承载是每秒最高 850 次请求,错误极少。

顺手为 AI 开了个口

新博客同时对 AI 程序开放了接口,而且不额外收钱。

他们为博客发布了一个 MCP 服务器,可以理解成专门给 AI 程序用的说明书加工具箱,让 AI 知道这个网站有哪些操作可以调用。对外开放的工具有四个:搜文章、列文章、取某篇文章、列标签。因为 EmDash 的接口本身够直白,做这个只花了几小时。

另一个是给博客作者的:EmDash 自己也带一个 MCP 服务器,作者可以让 AI 帮忙浏览、新建、编辑内容,发布或定时发布,删文件。

CMS 行业里做这类 AI 工具已经不新鲜,Cloudflare 强调的是它不额外收费,是平台自带的一部分。

真正的考试

9 天 28 篇文章、近 300 万次浏览,外加一次每秒 2.8 万请求的攻击。新博客扛住了,但编辑后台还在出问题。

Cloudflare 每年办几次「主题周」,集中发布一批新产品。最近一次是 Agents Week,9 天里发了 28 篇文章,带来接近 300 万次页面浏览。

前端表现良好,最高每秒 450 次请求没出明显问题。8 月 10 日还吃下了一次每秒 2.8 万次请求的 DDoS 攻击(大量机器同时涌向同一个网站,把它压垮),靠 Cloudflare 自带的防护挡掉了,同样没出明显问题。

编辑那头没这么顺。团队仍在陆续发现问题,多数是编辑体验上的小别扭,但定时发布又出了 bug,正是迁移前就最担心的那一块。他们已经把问题提给了 EmDash 团队,并表示有信心在下一个主题周 Birthday Week 之前修好。

28 篇 Agents Week 9 天内发文量 300 万 这批文章的页面浏览量 450 RPS 前端最高承载,无明显问题 28,000 RPS 8 月 10 日挡下的 DDoS 攻击
Agents Week 期间新博客的真实负载。28,000 RPS 的攻击流量是当时正常前端负载的六十多倍。数据均来自 Cloudflare 原文。

这篇文章的另一面

这是一篇写得很坦诚的技术复盘,同时也是一篇推销:文末直接请你去试用 EmDash。

值得肯定的地方是它没藏问题:定时发布的漏洞写了两次,编辑器的 bug 到文章结尾还没修完,压测的失败判据和具体数字都摆了出来。技术复盘愿意写自己踩的坑,这在厂商博客里不算常见。

但整篇文章的落点是「EmDash 很棒,去试试」,而文中所有关于 EmDash 的正面评价都来自唯一一个用户:Cloudflare 自己,跑在 Cloudflare 自家的 Worker、缓存和数据库连接上。这套性能数字有多少来自 CMS 本身,有多少来自它跑在 Cloudflare 的基础设施上,文章没有拆开。

一个普通用户如果不把整套 Cloudflare 的东西一起用上,能不能得到同样的结果,这篇文章回答不了。零号客户模式的好处是问题暴露得早、修得快;代价是这个客户的使用条件,和其他所有人都不一样。