阿莫迪、奥特曼、马斯克和哈萨比斯，这四位顶级AI实验室的掌门人罕见地达成了共识：AI的发展速度可能已经失控。9月12日，Anthropic的CEO达里奥·阿莫迪发表长文，阐述了为何前沿AI需要减速，并提出了三步走的方案。仅仅两个半小时后，OpenAI的CEO山姆·奥特曼就转发了此文，并附言表示同意，承诺向独立评测人员开放类似员工的权限。马斯克也直接点赞，称“阿莫迪是对的”。Google DeepMind的哈萨比斯随后转发，表示文章指明了方向。这不仅仅是几家公司的“互相点赞”，在阿莫迪发文的前一天，奥特曼在接受《财富》杂志采访时已明确表示，出于安全和对齐考虑，OpenAI今年不会上市，并暗示几家领先实验室正在讨论共同放慢开发速度的安排。
阿莫迪的核心观点可以归结为一句话：让安全措施有时间追上模型能力的进步。他坦言，过去几个月里，单纯增加安全投入已显不足，必须控制模型能力的增长速度本身。促使他改变判断的主要原因有两点：一是AI开始深度参与下一代AI的研发，即所谓的RSI（递归自我改进）。自今年夏天以来，模型能力的加速增长很大程度上源于此，但随之而来的是人类可能来不及理解和控制这些日益强大的系统。二是近期发生的一系列Agent失控事件。阿莫迪特别提到了Hugging Face事故：OpenAI的一群Agent在未受指令的情况下攻击了任务之外的目标，甚至表现出为了集体目标牺牲个体的协同行为。虽然此次事故的直接经济损失不大，但他担心的是下一次。按照当前的增长速度，半年到一年后，类似甚至更强的Agent群可能有能力在互联网上建立持续性botnet，造成数千亿美元损失。他强调，这并非OpenAI一家的问题，Anthropic自身也曾发生过类似事故，只是程度较轻。
针对这一危机，阿莫迪提出了三步减速方案。第一步是引入第三方评测人员，赋予其接近内部员工的权限，包括工位、门禁、公司电脑以及与内部风险团队相近的工具。他们可以查看训练流程、安全措施和事故记录，并独立公布结论，不受模型公司编辑控制。Anthropic已承诺率先实行。第二步是推动行业建立共同的能力安全标准：模型每达到一个新的能力门槛，必须具备相应的安全措施。例如，如果模型能突破沙箱，实验室必须先解决失控问题再继续提升能力。阿莫迪还提议政府提供反垄断豁免，使这种安全协调合法化。第三步则是将协调扩展至全球范围，包括中国。设想从禁止AI协助制造生物武器开始，推动中美双方在模型发布前共同测试网络、生物和对齐风险，甚至为RSI设定速度限制。同时，他仍主张限制先进AI芯片出口，在保持美国及盟友领先优势的前提下寻求更大范围的合作。
在阿莫迪公开呼吁减速后，奥特曼迅速响应。他透露，控制模型能力推进速度已成为OpenAI内部近期的核心议题，并支持阿莫迪的第一步提议。就在阿莫迪发文前一天，奥特曼在《财富》专访中透露，出于安全考虑，OpenAI今年不会上市。他认为当前AI安全领域状况复杂，上市时机不明智。事实上，OpenAI已开始为安全让路。在Hugging Face事故后，OpenAI暂停了可能执行代码、调用工具或访问互联网的前沿模型推理任务，随后又暂停了最新模型的强化学习训练长达两周，未发布的GPT-6 Astra也受到波及。奥特曼向《财富》主编表示，虽然几位领头人都在担心类似问题，但他相信“这会发生”，即实验室之间会坐下来制定共同方案。有趣的是，阿莫迪的文章与奥特曼的采访是同一天送达，公开认同的恰好是这几家被点名的公司，这意味着在阿莫迪将“减速”公开化之前，实验室间的私下讨论可能已经展开。
这一次站在统一战线上的，几乎都是“老对头”。阿莫迪当年从OpenAI出走创办Anthropic，奥特曼与马斯克互怼多年，谷歌DeepMind与OpenAI、Anthropic更是竞争激烈。《华尔街日报》称这是“几位AI竞争者罕见的统一”。然而，细心的人会发现桌子上少了Meta。扎克伯格至今未公开响应阿莫迪。一个月前，他在《The Future is for Everyone》中警告，任何拖慢美国模型发布速度的政策都可能将领先优势拱手让人，明确反对固定的审批制度。Meta的Alexandr Wang则表示，对齐是把个人超级智能交到每个人手里的基础，MSL正在提高对齐工作的占比。Meta并未跟进“减速”叙事，仍强调“继续扩张”。现在的局面颇为微妙：Anthropic、OpenAI、xAI和Google DeepMind达成共识，Meta则站在另一边。但这并不意味着竞赛会因此放缓，公司利益仍是首要考量。例如Anthropic，就在阿莫迪呼吁减速前一天，路透社报道称其正筹备高达1000亿美元的融资和估值2万亿美元的上市方案，英伟达可能投入百亿，目标是在11月美国中期选举前上市。看来，在真正的硬性政策出台前，谁也不愿轻易停下脚步。