你其实在二选一

面对 AI,你已经在两种预期里悄悄站了队——它会取代你,还是放大你,选哪个决定你今天该干什么。

Narayanan 说,从 AI 诞生起就有两种打架的叙事,过去只是学术争论,现在成了每个人必须做的现实选择。

一种是取代论:如果几年后 AI 能干光你今天做的事,那最理性的反应就是趁技能还值钱赶紧攒钱——硅谷不少人正走这条路,还造出了'永久底层阶级'这种说法。另一种是放大论:如果 AI 是来放大你的,那现在就是练本事最好的时候,尤其练那些能和 AI 互补的东西——主见、品味、判断力。

他站放大论一边,并给了个不对称的赌注:假如你押了取代论,结果 AI 其实是放大器,那你等于白白错过了历史上最适合练就'超能力'的几年。反过来押错的代价小得多。这就是为什么每个人都得认真想这道题。

电力用了 40 年

变革性技术从出现到真正重塑工作,历史上都要几十年——AI 这一步几乎还没开始。

Narayanan 把技术改变经济拆成四步:模型变强(能力)、做成能用的产品、大家开始试用、最后才是把组织和工作彻底重新设计。前三步很快,第四步最慢,要几十年,而且现在还没真正起步。

他用电力做类比。有了电以后,工厂主的第一反应是把大蒸汽机换成电动机——原地替换,以为立刻更省。结果不行。真正管用的做法花了四十年才摸出来:电是可搬动的,你能把动力送到任何需要的地方,于是整个工厂能围着流水线的逻辑重新排布,连工人怎么培训、雇佣、解雇,连劳动法都得跟着改。

今天说 AI agent 是人的'原地替换品',和当年把电动机塞进老工厂是同一个错。真正的红利,要等我们把工作本身重新组织起来才吃得到——而这不是 AI 公司的活,就像当年该怎么重排工厂,不是电力公司的活。

① 发明 · 能力 模型快速变强 ② 创新 · 产品 把能力做成能用的东西,如编程 agent ③ 扩散 · 早期采用 大家开始试用、摸索用法 ④ 适配 · 结构转型 组织与工作被重新设计——要几十年,还没起步 前三步快,第四步最慢,才是 AI 真正重塑经济的地方。
AI 影响经济的四个阶段。原文将扩散创新理论套用到 AI,并强调第四阶段'需要几十年、目前尚未真正开始'。

能力涨,可靠性掉队

过去两年 AI 的'能力'猛涨,但决定它能不能真正上岗的'可靠性'几乎没动。

Narayanan 的团队专门量'可靠性'——它和'能力'是两回事。能力是它会不会做,可靠性是它做得稳不稳:换个环境还行不行,失败了能不能回头,会不会一失手就把生产数据库删了。

他们测了三家前沿公司过去 24 个月发布的模型:这段时间准确率一路飙升,可靠性却只涨了五到十个百分点。 这解释了一个怪现象——为什么很多公司急着让 agent 自动跑业务,最后撞上成本、失控甚至法律责任,又缩了回来。

他还给出一条'三选二'的铁律:通用、能用于高风险场景、全自动——这三样,眼下的 agent 只能同时占两样。所以就现在而言,AI 更像一个'协作'工具,而不是把人换掉的'自动化'工具。

两张散点图:能力线陡升,可靠性线几乎持平
同期能力大幅攀升,可靠性却几乎原地踏步,两条趋势线斜率悬殊。来源:Arvind Narayanan · Normal Tech

写代码不是瓶颈

就算 AI 让程序员快十倍,也不会只留十分之一的人——因为写代码本来只占三分之一的活。

很多人有个想当然的推理:agent 让程序员效率涨十倍,那不就只需要十分之一的人?Narayanan 说数据完全不支持。他追查了那些'因 AI 裁员'的案例,发现无一例外都先有财务压力,把锅甩给 AI 更好听。

原因早在 2019 年的论文里就写过:写代码从来不是瓶颈。真正的软件工程是个三明治——上面是决策层(搞清客户要什么、定规格、做规划),中间是执行层(写代码、调试),下面是交付层(吃透代码为发布负责、集成、维护、测试)。AI 压缩的只是中间那层,而它本来最多只占三分之一。上下两层不但没被压缩,反而随着中间变快而膨胀。

他打了个比方:知识工作者会越来越像起重机操作员。机器干所有重活,但人始终握着操纵杆——整份工作被重新理解成'操作机器、看懂机器、掌控机器',而不是自己去搬每一块砖。

决策层 搞清客户要什么、定规格、做规划 没被压缩,反而扩张 执行层 被 AI 压缩 写代码、调试(原本只占约 1/3) 交付层 为发布负责、集成进客户系统、维护测试 没被压缩,反而扩张
软件工程的'决策—执行—交付'三明治。原文指出 AI 只压缩了中间执行层,而它'一开始也只占约三分之一';上下两层反而在扩张。

越自动,反而越多人

历史反复证明:一件事变快变便宜后,需求会暴涨,人往往不减反增。

Narayanan 举了一串例子来砸碎'总活儿就那么多'的错觉。ATM 让银行开分行变得划算,分行又需要柜员处理机器干不了的事,柜员反而更多了。深度学习教父 Geoff Hinton 十年前断言放射科医生五年内绝迹,结果放射科就业一直在涨——医生们还热情拥抱 AI,因为一件事变快变便宜,需求就更大。律师这行也一样:AI 让打官司更容易,官司多了,律师的活反而更多。

最夸张的是翻译。机器翻译近十年前就接近人类水平了,可人类译员的就业至今稳定,预计未来十年还稳——因为要翻的东西、要翻成的语言,根本没有上限。

把镜头拉长看软件行业:从机器码时代一路爬上来,每一代技术都让效率涨近十倍,而软件工程师的就业不降反增,涨了大约一万倍——因为要写的代码,多了不知多少个数量级。

1万倍 软件工程师就业的累计增长
从机器码时代一路爬到今天,每代技术都让效率涨近十倍,软件工程师就业却增长了约一万倍——因为要写的代码多了无数个数量级。

自我改进 ≠ 超级智能

就算实验室里真做出'AI 自己造更强的 AI',也不会自动通向能取代人的超级智能——中间断了一环。

有公司公开说在冲刺递归自我改进(AI 自己造出更强的下一代 AI),Narayanan 说他认真对待,但业内那套'自我改进→AGI→超级智能'一路自动兑现的想法有点傻。这其实是四个互不蕴含的维度,谁也推不出谁。他用了个比方:早年探险家远远望见夏威夷,用一个词称呼那片岛还行;可船一旦靠近,就得给每座岛起不同的名字,否则会搞不清自己身在何处。

更关键的是,通往超级智能的瓶颈在外部,不在实验室里。治病的难点是临床试验,常要几千人、十几年;一年后的天气,受混沌理论限制,数学上就注定测不准。再聪明的算力也绕不过现实世界的这些墙。

他还指出一个更深的坎:AI 在'可验证'的任务上远强于'不可验证'的。速度、效率可验证,可能靠自我改进猛涨;而创造力这种东西,人类自己都还说不清怎么测——AI 离那种跨领域灵光一现,还差得很远。

从划船到掌舵

能自动化的'造'会交给 AI,人转向'评估与掌舵'——看重的不再是技术深度,而是判断力和方向感。

Narayanan 观察到一个反复出现的模式:精力从'造系统'转向'评估系统'。他用船打比方——过去多数是划桨船,人的活就是出力划,没有专门掌舵的角色;等发动机接管了推进,人的工作没消失,反而更专业了:现代大船有复杂的控制台和几十种专职岗位,全在管'船该去哪、怎么去'。

二十多年前,'编程'和'软件工程'的招聘需求就开始分岔:前者围着写代码调试这些技术活,后者要吃透三明治的三层,得懂客户、有判断。他预测这道分岔会蔓延到越来越多行业。

他甚至说,认真评估 AI 系统本身就是一种对齐——不是对齐模型,而是对齐整个社群:想清楚我们正在往哪走、到底想要什么样的 AI。过去人人崇拜技术深度,未来更值钱的会是判断力、品味这些今天被看低的'软'东西——这个心理转变,很多人还没准备好,会不太好受,但没关系。

AI 之前 AI 之后 工作重心 造系统、写代码 评估系统、定方向 看重的能力 技术深度 判断力与品味 对应的角色 划船出力 掌舵领航 谁来做评估 和造的人同一批 分化成专门社群
原文预测:可验证的'造'越来越交给 AI,人转向难自动化的'评估与掌舵'——看重的能力也随之从技术深度移向判断与品味。

方向盘别交出去

没有哪个实验室突破会让我们集体失业;AI 怎么部署,主动权在我们手里,而且要花几十年慢慢展开。

Narayanan 反对'抢先冲到某个能力里程碑就赢者通吃'的说法。经济潜力早就在那儿了,它不由某个能力节点解锁,而取决于我们下游一步步怎么做——花几十年慢慢兑现。

他把安全这件事也翻了个面:有人担心 AI 将来自己开公司、雇人炒人,只要'对齐'好就没事。他直言,一个 AI 真的在拥有并经营公司、决定人的去留,这本身就已经是反乌托邦了,对不对齐都不重要——对人的尊严和民主治理都是灾难。把这种未来当成必然、只指望'对齐'来兜底,在他看来是反安全,不是为安全。

如果一天结束时我不觉得累,那说明我做错了——我把太多东西外包给了 AI,牺牲了自己的长期成长。

他给自己立了两条规矩:别把 agent 当黑箱,一句提示就撒手不管;别陷入'依赖螺旋',在自己还不精通的事上直接靠 AI,会把仅有的本事也丢掉——先自己吃透,再用 AI 加速。成长、效率、掌控,是他要努力平衡的三条腿。计算机曾被叫作'思维的自行车',他说 AI 可以是'思维的起重机',把人的潜能抬到从前想不到的高度——前提是我们一直握着操纵杆。这场仗值得打,他打算继续打下去。