美国Anthropic联合创始人兼公共利益部门负责人杰克·克拉克在2026年10月13日于东京大学研究生院松尾·岩泽研究室主办的演讲中表示，2027年出现能够训练自身后继系统的AI，概率超过50%。这比他年初公布的预测有所提前——当时他认为，2027年这一概率为30%，到2028年底为60%。与此同时，他还表示，AI明年实现递归式自我改进（RSI）的可能性“接近于零”。
数字变了，但主角另有其人
这次发言最引人注目的，或许是概率从30%升至超过50%。不过，克拉克在演讲中着重强调的并不是这个数字，而是要划清“能做”和“去做”之间的界限。
RSI指的是AI持续提升自身能力的机制。克拉克将其比作一旦迈出便无法回头的“one-way door”，也就是“单向门”。即便能力不断提升，是否打开这扇门仍是另一回事。
在他看来，作出这一决定的并非只有Anthropic这样的企业。他表示，这是政府和社会在内的更广泛群体应当共同选择的问题。概率上升既是反映技术进步的数字，也意味着必须作出选择的时刻正在临近。
已经开始的“小规模自我改进”
那么，当前进展到了哪一步？据克拉克介绍，大约一年前，Anthropic内部主要将AI用于类似助手的任务。到了2026年，公司内部代码库相关工作中已有26%由AI主导。
具体做法是：人类提出“请为新的时间序列数据重写这个监控系统”之类的高层次目标，剩下的工作由Claude推进。克拉克称之为“RSI的外层循环”，并表示已有证据表明，AI能够自主完成小规模的AI开发工作。
换句话说，在大约四分之一的实际工作中，人类只告知目的地，开始把驾驶工作交给AI。自我改进听起来像遥远的科幻情节，但它的入口已经出现在日常工作中。
人类剩下的职责是“拉绳子”
自动化不断推进，风险也会随之加大。克拉克提到了今年夏天发生的一起事件，并指出，人们担心AI可能逃离实验室环境，进而入侵其他公司。他认为，了解AI正在做什么的机制，尚未跟上AI能力的增长。
为此，他引用了丰田生产方式中的“安灯”（andon）机制：生产线上，作业人员发现异常后拉动绳索，让生产线停下来。他解释说，人类的职责是核实系统是否正常运行，并在必要时将其停止。
他从今年夏天的教训中指出，监测自动化系统的机制和使其停止的机制都还没有建立起来。他表示，彻底自动化AI开发可能造成巨大的负面影响，是一个代价极高的选择，因此应有意在开发流程中保留人的判断。
据介绍，Anthropic已邀请第三方评估机构METR的评估人员进入公司内部。克拉克解释说，RSI实现的概率上升，让他更加确信AI需要刹车。
即便有100亿名科学家，实验台也不够用
在安全措施奏效的前提下，克拉克描绘的未来是AI作为科学家开展工作。目前，全球职业科学家约有1000万至2000万人。他表示：“我们正迈入一个拥有100亿至200亿名科学家的世界。”
制约因素不是头脑，而是设备。克拉克指出，湿实验室、电子显微镜、同步辐射装置和机器人都不够。即便提出想法的人大幅增加，如果可供验证的场所没有增加，也很难取得成果。AI能力的提升与设备投资直接相关。
他表示，就业影响因领域而异。是否接受某些领域就业减少，是“政府需要决定的问题”。他还指出，在日本需求不断增长的护理和看护领域，人性化因素很重要，不应完全实现自动化。
善于依据数据下注的国家更强
为这些判断提供依据的项目之一，是与东京大学等机构推进的“Japan AI Index”。该项目旨在将AI企业的数据与政府信息结合起来，用于政策和投资决策。克拉克表示，基于实证数据作出审慎押注的国家，会比一味被动应对的国家做得好得多。
在整场演讲中，克拉克列举了许多挑战，但仍强调：“从根本上说，这是一个乐观的故事。”他的判断是，人类面临的问题多到凭自身能力难以应对，而AI将承担起解决这些问题的任务。
他还对现场的学生们说，今后，曾经只能靠想象的事情将成为可能，人们也将进入一个受自身想象力所限的时代。他建议大家守住专注阅读一手资料的能力和主动性，以此锻炼创造原创想法所需的想象力。
コメント