一起过期,数据库就死
如果一批数据被设成同一时刻失效,那一刻所有请求会同时砸向数据库,把它压垮。
先说清楚缓存是什么:它是把常用数据先复制一份放进快速内存里,免得每次都去翻又慢又重的数据库。你刷开一个页面之所以秒开,多半是缓存在答题,数据库根本没被惊动。
缓存里的每条数据都有保质期,到点作废,得重新去数据库取一份。麻烦出在保质期被设成了同一个时刻。比如系统上线时一口气灌进去一批数据,统统设成一小时后过期。一小时后,这批数据在同一秒集体消失,原本被缓存挡住的请求全部越过它,直接落在数据库上。
像图书馆前台摆着热门书的复印件,大家平时拿复印件就走。某一刻所有复印件同时被收走,所有人一起涌进书库。书库不是不能用,是不能被这么多人同一秒钟一起用。
还有个更狠的版本:不需要一批数据同时过期,只要一个足够热门的条目过期就够了。热门条目占掉了 80% 的查询量,它一失效,这 80% 的流量立刻转向数据库。ByteByteGo 给的对策直接得近乎粗暴:热门数据干脆不设过期时间。批量过期那种情况则是给保质期加个随机数,让它们散开,别撞在同一秒。
缓存救不了的两种情况
还有两种情况缓存帮不上忙:要查的东西压根不存在,以及缓存自己挂了。两种都让数据库直接裸奔。
第一种是查一个数据库里根本没有的东西。缓存的工作方式是:没有就去问数据库,拿到答案存起来备用。可数据库也说没有,那就没东西可存,下一次同样的查询还得再问一遍。有人反复查不存在的编号,缓存就变成了一条毫无阻力的通道,每一次都原样转发给数据库。
第二种更直接:缓存服务器整个宕机。平时被它挡下的全部流量,一瞬间没了去处,统统落到数据库身上。
四条对策,前两条对付第一种,后两条对付第二种:
- 把「没有」本身也存进缓存。下次再问同一个不存在的编号,缓存自己就能答,不用惊动数据库。
- 先过一道布隆过滤器,它能极快地判断某个东西肯定不在库里,不在就当场挡下。
- 给缓存装一个拉闸装置:一旦它挂了,应用层直接停止向下访问,宁可这部分功能短暂不可用,也不让数据库陪葬。
- 把缓存做成集群,多台机器互为备份,一台倒下还有别的顶着,别让它成为唯一的单点。
撤销为什么会打架
代码里的撤销不是把历史删掉,而是新写一条反着来的记录;要是后来有人改过同样几行,它就不知道该听谁的。
程序员改代码,每改一轮就存一个提交记录(一次改动的存档,记着谁在什么时候把哪几行改成了什么)。这些记录首尾相接,构成项目的完整历史。
想撤回某次改动时,常用的做法叫 revert。它不删除那条旧记录,而是在历史末尾追加一条新的,内容是「把当初那几行改回去」。历史因此完整保留,谁在什么时候撤销了什么,后来人一眼看得见。
冲突就从这里来。假设第二次提交加了一个功能,第三次提交又在同样几行上做了修改。现在你要撤销第二次,可那几行早就不是当初的样子了。把它们改回去,第三次的工作就没了;不改回去,撤销又没撤干净。程序无法替你决定该保谁,于是它停下来,把两个版本一起摆给你看,等你人工定夺。你改完、确认、让它继续,它会生成一条干净的新记录:第二次的改动被撤掉,第三次的原样保留。
两把钥匙的分工
公钥私钥这套办法又慢又贵,真正解决的是怎么把钥匙安全递到对方手里。
加密有两套路子。第一套是一把钥匙走天下:同一把钥匙负责锁上,也负责打开。它快、省算力,适合处理大量数据,加密文件、数据库记录、消息内容,用的都是它。唯一的死结是:这把钥匙怎么交给对方?两边必须事先都有它,而在一条谁都能偷听的线路上传一把钥匙,本身就是个难题。
第二套是一对钥匙:公钥可以公开给任何人,私钥自己死死攥着。用公钥锁上的东西,只有私钥能打开。这样一来,不需要事先偷偷交换任何秘密,对方直接拿你挂在明面上的公钥就能给你发密信。代价是它慢得多、算力开销大,拿它加密大文件不现实。
所以现实中的系统是两套搭配着用:先用慢的那套验明身份、把快的那套要用的钥匙安全送过去,之后所有正经数据都交给快的那套加密。慢的那套负责开场握手,快的那套负责干活。
负载均衡身兼七职
把流量摊给多台服务器只是它最出名的一件事,它同时还在剔除坏机器、替后端卸掉加密负担、扛住恶意流量。
负载均衡器(挡在用户和服务器之间的一层调度员,决定每个请求由哪台机器来处理)最广为人知的职责是分摊流量。但 ByteByteGo 列的七件事里,更值钱的是后面几件:
- 坏机器自动下线。它持续给每台服务器把脉,发现哪台没响应就把流量绕开,用户端根本感觉不到有机器倒了。
- 替后端卸掉加密的活。解密这件事很吃算力,让调度员统一干完,后面的服务器就能专心处理业务。
- 认人。把同一个用户的请求始终送到同一台机器上,免得你在第一台登录、第二台却不认识你。
- 扛住恶意流量。限制单个来源的请求频率,或者把攻击流量摊到更大的面上,让它打不穿任何一台。
扩容也靠它:新加一台机器进池子,它自动开始分派,不用改任何业务代码。一个挡在门口的调度员,顺手把可用性、安全和伸缩都办了。
AI 写代码的配套件
Claude Code 那份 12 项功能清单里,重点不是「它会写代码」,而是围着它长出的一整套刹车、记忆和外接装置。
这份清单值得非程序员看一眼,因为它展示了 AI 编程工具这两年真正在长的东西。12 项功能归得起来的是四类。
一类是记忆:一个项目规则文件,每次开工自动读一遍,把「这个项目用什么规范」记住;还有对长对话的压缩,以及对它当前记得多少东西的管理。
一类是刹车:哪些工具允许它用、哪些不许;动手之前先出一份计划给人审;自动存档点,出事了一键退回。
一类是外接:可复用的指令包、在特定时机自动触发的脚本、连上数据库等外部服务的通道、第三方做的扩展包。
最后一类是提速:常用任务存成快捷命令,以及派出多个agent(能自己拆解任务、连续干活的 AI 程序)并行处理一个大工程。
把这四类连起来看,方向很清楚:工具方在做的是让模型敢被放进真实项目里。能记住规矩、被拦得住、出错能退回去。
最硬的数字在广告位
整期通讯里唯一带对比数字的论断,出自 ByteByteGo 推销自家新课的段落:录播网课完成率约 4%,直播班约 40%。
这个 10 倍差距听起来很有说服力,但它既没说数据来自哪里,也没说统计了多少课、多少人。同一段落的结论,同时也是这家公司卖课的理由。它接着宣布推出直播课系列,讲师来自 Meta、Google、AMD、Salesforce,还有测试驱动开发的提出者 Kent Beck。
往回看整期就会发现,前面几个技术话题也是同一种形态:结论给得干脆,出处一个没有。热门条目占 80% 查询量、直播班 40% 完成率,都是这样悬空的数字。
这不是说它讲错了。缓存那四种翻车方式、负载均衡那七件事,都是工程界反复验证过的经验共识,拿来当地图用完全没问题。但它是一份索引,不是一份证据:适合用来知道有哪些坑存在、该去查哪个词,不适合被原样引用成「数据显示」。索引带你去找答案,证据本身就是答案,这期通讯提供的是前者。