一起过期,数据库就死

如果一批数据被设成同一时刻失效,那一刻所有请求会同时砸向数据库,把它压垮。

先说清楚缓存是什么:它是把常用数据先复制一份放进快速内存里,免得每次都去翻又慢又重的数据库。你刷开一个页面之所以秒开,多半是缓存在答题,数据库根本没被惊动。

缓存里的每条数据都有保质期,到点作废,得重新去数据库取一份。麻烦出在保质期被设成了同一个时刻。比如系统上线时一口气灌进去一批数据,统统设成一小时后过期。一小时后,这批数据在同一秒集体消失,原本被缓存挡住的请求全部越过它,直接落在数据库上。

像图书馆前台摆着热门书的复印件,大家平时拿复印件就走。某一刻所有复印件同时被收走,所有人一起涌进书库。书库不是不能用,是不能被这么多人同一秒钟一起用。

还有个更狠的版本:不需要一批数据同时过期,只要一个足够热门的条目过期就够了。热门条目占掉了 80% 的查询量,它一失效,这 80% 的流量立刻转向数据库。ByteByteGo 给的对策直接得近乎粗暴:热门数据干脆不设过期时间。批量过期那种情况则是给保质期加个随机数,让它们散开,别撞在同一秒。

一批数据同时到期 保质期被设成了同一个时刻 请求集体扑空 缓存里没有,只能转去问数据库 数据库独自接住全部流量 这些请求平时根本到不了这一层 数据库过载 变慢甚至宕机,整个服务跟着停 对策:给保质期加个随机数,让它们散开过期; 热门数据干脆不设过期时间。
缓存批量过期引发的连锁反应。原文称热门条目占 80% 的查询量,这类条目单独过期也足以触发同样的链条。

缓存救不了的两种情况

还有两种情况缓存帮不上忙:要查的东西压根不存在,以及缓存自己挂了。两种都让数据库直接裸奔。

第一种是查一个数据库里根本没有的东西。缓存的工作方式是:没有就去问数据库,拿到答案存起来备用。可数据库也说没有,那就没东西可存,下一次同样的查询还得再问一遍。有人反复查不存在的编号,缓存就变成了一条毫无阻力的通道,每一次都原样转发给数据库。

第二种更直接:缓存服务器整个宕机。平时被它挡下的全部流量,一瞬间没了去处,统统落到数据库身上。

四条对策,前两条对付第一种,后两条对付第二种:

  1. 把「没有」本身也存进缓存。下次再问同一个不存在的编号,缓存自己就能答,不用惊动数据库。
  2. 先过一道布隆过滤器,它能极快地判断某个东西肯定不在库里,不在就当场挡下。
  3. 给缓存装一个拉闸装置:一旦它挂了,应用层直接停止向下访问,宁可这部分功能短暂不可用,也不让数据库陪葬。
  4. 把缓存做成集群,多台机器互为备份,一台倒下还有别的顶着,别让它成为唯一的单点。

撤销为什么会打架

代码里的撤销不是把历史删掉,而是新写一条反着来的记录;要是后来有人改过同样几行,它就不知道该听谁的。

程序员改代码,每改一轮就存一个提交记录(一次改动的存档,记着谁在什么时候把哪几行改成了什么)。这些记录首尾相接,构成项目的完整历史。

想撤回某次改动时,常用的做法叫 revert。它不删除那条旧记录,而是在历史末尾追加一条新的,内容是「把当初那几行改回去」。历史因此完整保留,谁在什么时候撤销了什么,后来人一眼看得见。

冲突就从这里来。假设第二次提交加了一个功能,第三次提交又在同样几行上做了修改。现在你要撤销第二次,可那几行早就不是当初的样子了。把它们改回去,第三次的工作就没了;不改回去,撤销又没撤干净。程序无法替你决定该保谁,于是它停下来,把两个版本一起摆给你看,等你人工定夺。你改完、确认、让它继续,它会生成一条干净的新记录:第二次的改动被撤掉,第三次的原样保留。

第二次提交:加了个功能 改动落在某几行上 第三次提交:改了同样几行 后来的人在同一位置又动了手 要撤销第二次 程序想把那几行改回原样 撞上第三次的改动 保谁都不对,程序停下等人定夺 人工改完、确认、继续,程序会追加一条新记录:第二次的改动被撤掉, 第三次的原样保留。
撤销冲突的成因:被撤销的那几行,已经被后来的提交改过了。示例出自 ByteByteGo 原文的 C2 / C3 场景。

两把钥匙的分工

公钥私钥这套办法又慢又贵,真正解决的是怎么把钥匙安全递到对方手里。

加密有两套路子。第一套是一把钥匙走天下:同一把钥匙负责锁上,也负责打开。它快、省算力,适合处理大量数据,加密文件、数据库记录、消息内容,用的都是它。唯一的死结是:这把钥匙怎么交给对方?两边必须事先都有它,而在一条谁都能偷听的线路上传一把钥匙,本身就是个难题。

第二套是一对钥匙:公钥可以公开给任何人,私钥自己死死攥着。用公钥锁上的东西,只有私钥能打开。这样一来,不需要事先偷偷交换任何秘密,对方直接拿你挂在明面上的公钥就能给你发密信。代价是它慢得多、算力开销大,拿它加密大文件不现实。

所以现实中的系统是两套搭配着用:先用慢的那套验明身份、把快的那套要用的钥匙安全送过去,之后所有正经数据都交给快的那套加密。慢的那套负责开场握手,快的那套负责干活。

同一件事的两面 公钥私钥干什么 验明对方身份, 并把接下来要用的那把共用钥匙 安全送过去 它不干什么 不负责加密大文件和数据库, 那太慢太贵, 交给一把钥匙的那套办法
公钥私钥不是"更安全的加密",它是解决送钥匙难题的。原文原话:它通常用于身份、认证和密钥交换,而非大批量数据。

负载均衡身兼七职

把流量摊给多台服务器只是它最出名的一件事,它同时还在剔除坏机器、替后端卸掉加密负担、扛住恶意流量。

负载均衡器(挡在用户和服务器之间的一层调度员,决定每个请求由哪台机器来处理)最广为人知的职责是分摊流量。但 ByteByteGo 列的七件事里,更值钱的是后面几件:

  1. 坏机器自动下线。它持续给每台服务器把脉,发现哪台没响应就把流量绕开,用户端根本感觉不到有机器倒了。
  2. 替后端卸掉加密的活。解密这件事很吃算力,让调度员统一干完,后面的服务器就能专心处理业务。
  3. 认人。把同一个用户的请求始终送到同一台机器上,免得你在第一台登录、第二台却不认识你。
  4. 扛住恶意流量。限制单个来源的请求频率,或者把攻击流量摊到更大的面上,让它打不穿任何一台。

扩容也靠它:新加一台机器进池子,它自动开始分派,不用改任何业务代码。一个挡在门口的调度员,顺手把可用性、安全和伸缩都办了。

AI 写代码的配套件

Claude Code 那份 12 项功能清单里,重点不是「它会写代码」,而是围着它长出的一整套刹车、记忆和外接装置。

这份清单值得非程序员看一眼,因为它展示了 AI 编程工具这两年真正在长的东西。12 项功能归得起来的是四类。

一类是记忆:一个项目规则文件,每次开工自动读一遍,把「这个项目用什么规范」记住;还有对长对话的压缩,以及对它当前记得多少东西的管理。

一类是刹车:哪些工具允许它用、哪些不许;动手之前先出一份计划给人审;自动存档点,出事了一键退回。

一类是外接:可复用的指令包、在特定时机自动触发的脚本、连上数据库等外部服务的通道、第三方做的扩展包。

最后一类是提速:常用任务存成快捷命令,以及派出多个agent(能自己拆解任务、连续干活的 AI 程序)并行处理一个大工程。

把这四类连起来看,方向很清楚:工具方在做的是让模型敢被放进真实项目里。能记住规矩、被拦得住、出错能退回去。

记住这个项目的规矩 动手前先被拦一道 接上外部能力 同时干更多活 Claude Code 会写代码的命令行工具 记忆 项目规则文件、对话压缩、当前记忆管理 刹车 工具权限、先出计划再动手、自动存档点 外接 指令包、时机触发脚本、外部服务通道、扩展包 提速 快捷命令、多个 agent 并行干活
ByteByteGo 列的 12 项功能按作用归成四类。真正的重心不在写代码本身,而在记忆、拦截和外接这三圈配套。

最硬的数字在广告位

整期通讯里唯一带对比数字的论断,出自 ByteByteGo 推销自家新课的段落:录播网课完成率约 4%,直播班约 40%。

这个 10 倍差距听起来很有说服力,但它既没说数据来自哪里,也没说统计了多少课、多少人。同一段落的结论,同时也是这家公司卖课的理由。它接着宣布推出直播课系列,讲师来自 Meta、Google、AMD、Salesforce,还有测试驱动开发的提出者 Kent Beck。

往回看整期就会发现,前面几个技术话题也是同一种形态:结论给得干脆,出处一个没有。热门条目占 80% 查询量、直播班 40% 完成率,都是这样悬空的数字。

这不是说它讲错了。缓存那四种翻车方式、负载均衡那七件事,都是工程界反复验证过的经验共识,拿来当地图用完全没问题。但它是一份索引,不是一份证据:适合用来知道有哪些坑存在、该去查哪个词,不适合被原样引用成「数据显示」。索引带你去找答案,证据本身就是答案,这期通讯提供的是前者。

4% 录播网课的完成率 40% 直播班的完成率
ByteByteGo 宣布推出直播课时给出的两个数字,相差约 10 倍。原文未说明数据来源、样本量和统计口径。