← 全文版
极简速览 · 会员专属

正在造 AGI 的人,为何请政府来管住自己?

谷歌 DeepMind CEO、诺奖得主 Demis Hassabis 说,AGI 可能几年内就到,量级堪比人类当年发现火与电。而这位真正在造 AGI 的人,开出的第一张药方是:请政府来管我们,必要时甚至一起踩刹车。

阅读原文 ↗
  1. 造 AGI 的人喊立规矩
    谷歌 DeepMind CEO、诺奖得主 Demis Hassabis 判断 AGI 可能只剩几年,量级堪比人类发现火与电,他因此主动提议给前沿 AI 立一套规矩。
  2. 为什么是现在
    技术进步已经跑在人类的理解前面,网络安全风险冒头,核、生物和会自我改进的 AI 风险正排队而来。
  3. 一个仿 FINRA 的机构
    他提议美国带头设立一个前沿 AI 标准机构,仿照券商行业的自律组织 FINRA,由业界出大头钱、独立专家和开源代表坐镇。
  4. 先自愿,后强制
    起步阶段实验室自愿在发布前 30 天送模型受检,等这套检测被证明有效,就变成不通过不许上市。
  5. 到底测什么
    检测盯着高危能力:能不能帮人搞网络攻击、造生物威胁,以及 AI 会不会撒谎、偷偷绕过安全护栏。
  6. 有牙齿,也有边界
    框架可以按风险升级,极端时协调各家一起放慢开发;它只管越过门槛的前沿模型,不分国别和开源闭源,小公司和学术界豁免。
  7. 谁写规则,谁得利
    这是正在造 AGI 的人主动递上的自我监管方案——既承担了责任,也把定规则的笔攥在了自己手里。
几年 他估计 AGI 到来的时间 10 倍 影响或达工业革命的十倍 10 倍速 而且以十倍的速度发生
Hassabis 对 AGI 的三个核心断言:来得快、影响大、速度还快。三者均为他本人的判断而非实测数据。出处:原文。

让沙子学会了思考的人,正赶在 AGI 到来前替它先写规矩——问题是,这支笔该由谁来握。