极简速览 · 会员专属
正在造 AGI 的人,为何请政府来管住自己?
谷歌 DeepMind CEO、诺奖得主 Demis Hassabis 说,AGI 可能几年内就到,量级堪比人类当年发现火与电。而这位真正在造 AGI 的人,开出的第一张药方是:请政府来管我们,必要时甚至一起踩刹车。
阅读原文 ↗- 造 AGI 的人喊立规矩谷歌 DeepMind CEO、诺奖得主 Demis Hassabis 判断 AGI 可能只剩几年,量级堪比人类发现火与电,他因此主动提议给前沿 AI 立一套规矩。
- 为什么是现在技术进步已经跑在人类的理解前面,网络安全风险冒头,核、生物和会自我改进的 AI 风险正排队而来。
- 一个仿 FINRA 的机构他提议美国带头设立一个前沿 AI 标准机构,仿照券商行业的自律组织 FINRA,由业界出大头钱、独立专家和开源代表坐镇。
- 先自愿,后强制起步阶段实验室自愿在发布前 30 天送模型受检,等这套检测被证明有效,就变成不通过不许上市。
- 到底测什么检测盯着高危能力:能不能帮人搞网络攻击、造生物威胁,以及 AI 会不会撒谎、偷偷绕过安全护栏。
- 有牙齿,也有边界框架可以按风险升级,极端时协调各家一起放慢开发;它只管越过门槛的前沿模型,不分国别和开源闭源,小公司和学术界豁免。
- 谁写规则,谁得利这是正在造 AGI 的人主动递上的自我监管方案——既承担了责任,也把定规则的笔攥在了自己手里。
让沙子学会了思考的人,正赶在 AGI 到来前替它先写规矩——问题是,这支笔该由谁来握。