据报道，OpenAI首席执行官萨姆·奥特曼上周在面向员工的演讲中，谈到了确保AI安全发展的三个“终点”。
三种方案分别是成立国际监管机构、合并主要实验室，以及由单一实验室一马当先。据称，奥特曼将必须在一年内选择发展路径的阶段称为“pacing 2.0”，并表示AI自我改进需要设定速度限制或停止点。
仅靠出厂前检测已不够的那一天
OpenAI目前的安全措施是：模型通过安全测试后便予以发布；如果存在隐忧，则告知相关情况。据称，奥特曼将这种做法称为“pacing 1.0”。打个比方，这就像在汽车出厂前进行检测，确认没有问题后便让它上路。
不过，AI一旦开始改进自身，情况就会有所不同。届时，问题不再只是放行一辆通过检测的车，而是如何应对汽车本身不断进化的速度。所谓下一阶段“pacing 2.0”，讨论的正是这一问题。
三种方案描绘的截然不同的治理模式
三种方案在谁来掌控AI开发这一点上泾渭分明。下面梳理一下它们的区别。
第一种方案是设立类似国际原子能机构（IAEA）的全球性监管机构。据称，奥特曼支持这一方案，OpenAI自2023年以来也一直在呼吁建立此类框架。
第二种方案以DeepMind联合创始人德米斯·哈萨比斯的名字命名，称为“Demis plan”。该方案是将主要实验室合并，为参与国开展研究。据介绍，这种机制类似欧洲粒子物理研究机构CERN。
第三种方案则以AI研究员埃利泽·尤德考斯基的名字命名。按照这一设想，一家实验室利用自我改进的AI抢先领先，拉开差距，甚至将其他公司的GPU“熔化”。据称，奥特曼对此评价说“terrible”。
并列比较三种方案后显现的差异
监管机构方案可以概括为“由外部制定规则”，实验室合并方案是“将研究资源集中到一处”，单一实验室领先则是“交由竞争中的胜者决定”。三种方案虽然都以安全的未来为目标，但权力的归属各不相同。
我个人觉得，第三种方案最容易成为现实，这一点令人棘手。如果什么都不决定、任由竞争继续，最终自然而然就会走向这条路。或许正因如此，奥特曼在三种方案中对它用了最严厉的措辞。
问题在于，速度限制由谁来决定
据称，奥特曼表示，必须在一年内选择发展路径，并且方案应包括为自我改进AI设置“速度限制”或停止点。这就好比给一辆只有油门的车，事后再补上刹车设计图。
问题在于，谁来踩下刹车。是赋予监管机构权力，还是把实验室合并为一体？无论采用哪种方案，都必须让所有主要参与者坐到谈判桌前。各家实验室像超级英雄电影里那样齐聚一堂，固然很有吸引力，但正如以往的国际协议一样，凑齐参与方本身恐怕就是最大的难关。
与竞争对手的表态不谋而合
据报道，同一时期，Anthropic的杰克·克拉克谈到了为智能设定上限的想法，并表示在安全方面采取行动的时间“只有短短几年”。两家竞争公司的高管都表达了方向相近的危机感。
当竞争对手开始讨论同一个问题时，讨论可能就会从理念层面走向执行层面。不过，目前OpenAI并未正式采纳任何一种方案，这些仍停留在构想阶段。一年期限能否成为推动整个行业讨论的倒计时，值得关注。
コメント