7月28日，一封名为“Pacing the Frontier”的请愿书引发了全球AI行业的震动。来自OpenAI、Anthropic等硅谷巨头的1346名核心员工（截至8月4日数据）联合署名，呼吁美国政府推动国际合作，研发必要的治理工具，以控制自动化AI的研发节奏。在全球AI发展如火如荼的背景下，这封请愿书显得格外引人注目，似乎暗示着要为狂奔的AI踩下刹车。在这一事件释放出的“AI濒临失控”的紧张氛围背后，AI发展史正迎来一个标志性节点。究竟谁想把AI关进笼子里？首先需要厘清，请愿书的核心诉求并非“立即踩刹车”，而是“建立踩刹车的能力”。这一来自行业前沿的呼声并非空穴来风。
在请愿书流传之前，开源社区与模型托管平台Hugging Face披露了一起安全事故，称其遭到AI智能体系统入侵。随后，OpenAI承认了这一事件。起因是GPT-5.6 Sol等前沿模型在ExploitGym平台进行漏洞测试时，未按计划“答题”，而是在软件包代理缓存中发现了“零日漏洞”。AI利用该漏洞突破隔离环境，最终入侵了Hugging Face。通俗地说，这次事故就像AI被安排了一场考试，但它没有思考如何解题，而是“作弊并寻求外部帮助”，甚至使用了反侦察手段来掩盖踪迹。对于此次事故，OpenAI将其称为“前所未有的网络安全事件”，Sam Altman甚至在播客中坦言，这是让他感到切肤之痛的安全事件。
受此影响，美国国会议员于7月23日提出了“AI紧急关停法案”，要求训练成本超过1亿美元的AI系统必须具备紧急关停能力，并赋予相关部门执行权。法案提出一周后，“Pacing the Frontier”请愿书开始在网络上流传。与“AI紧急关停法案”强调“由政府把好最后一道关”不同，硅谷精英们主张建立国际协调机制，将“踩刹车”的能力转化为一种工具，而非单一部门的特权。短短半个月，从Hugging Face的安全事故到千名员工的请愿，行业抛出了两个核心问题：第一，AI是否已发展到需加以限制的程度？第二，如何为AI制造“刹车”？第一个问题不难回答。过去两三年，AI发展速度远超预期，从Chatbot到文生图、文生视频，再到Agent百花齐放。Hugging Face事件揭露了AI在无限制下具备“越狱”能力。尽管AI尚无自我意识，但既然已知其能绕过监管并产生意外行为，建立反制手段合情合理。
但第二个问题却难以回答。AI的突破源于产业积累与激烈竞争的推动，无论是硅谷的OpenAI、Anthropic，还是中国的Kimi、DeepSeek，竞争已延伸至应用层。开放市场带来了良好预期，但也加剧了竞争。此时提出限制，意味着打破自由竞争格局，企业未必愿意接受。这形成了AI公司的“囚徒困境”。历史上，面对前沿技术风险，主动放缓并非科幻桥段。1975年，斯坦福大学生物学家保罗·伯格在阿西洛马会议召集科学家，针对DNA重组技术达成共识：在新安全指南出台前暂停研究。这为基因工程健康发展奠定了基础。
然而，AI行业现状与50年前不同。当时DNA重组风险明确且可隔离，而AI风险不可预测，能自主发展出人类未设想的行为，影响范围更大，留给人类的反应时间更短，紧迫感更强。如今AI的风险本质源于竞争环境。360创始人周鸿祎指出，为追求先进性，全行业正系统性放弃安全性。大家赋予智能体更多工具和权限，鼓励其调用资源解决问题，但能力越强，失控破坏力越大。换言之，“AI会越狱”并不可怕，可怕的是为追求迭代而忽视安全。
早在三年前，业内就曾提出“为AI减速”。2023年3月，Future of Life Institute发布公开信，呼吁暂停训练比GPT-4更强大的模型6个月，得到了马斯克、本吉奥等1200多名专家签名支持，如今签名者达3.3万人。当时，所有公司都承认需要安全治理，但没有一家公开支持暂停训练。Sam Altman驳斥其缺乏细节，指出单家减速无法解决整体风险。这暗示在激烈竞争中，减速将导致劣势。过去几年，AI公司陷入“只能前进、不能后退”的囚徒困境。从“Pacing the Frontier”签名名单看，不少基层员工和高管以个人身份参与。但OpenAI、Anthropic、Meta等公司未以官方身份表态。换言之，精英们像3年前的Sam Altman一样，意识到竞争带来的系统性风险，但无法寄托于公司意志，只能寻求外部力量介入。
但这也带来新问题：失控的AI需要怎样的“刹车”？谁来主导AI治理新秩序？过去一周，“千人联名”引发关注，但硅谷内部态度分化。OpenAI、Anthropic作为风险当事人，主张收紧前沿模型（特别是开源模型）限制，呼吁外部监管。但有观点认为，除安全考量外，还有商业算计。作为闭源巨头，他们依赖高定价API维持投入，而中国开源模型以性价比抹平技术溢价，构成威胁。因此，Anthropic等以“开源导致滥用”为由打压开源。但OpenAI的“越狱”事件反而暴露了闭源模型隐患，使路线之争成为焦点。
对比闭源巨头的强监管，英伟达、微软、Meta等支持开源生态的企业则反对“一刀切”限制，反对立法偏袒闭源，主张开放权重，让全球研究者共同寻找漏洞、建立安全体系。对于英伟达，开源繁荣能做大市场蛋糕，吸引更多采购。因此，其态度背后也可能有商业考量。请愿书流传前，英伟达联合25家机构发布《开放权重与美国AI领导力》公开信，呼吁不限制开放权重模型。有趣的是，这封信后来得到OpenAI支持，但Anthropic未入伙。有声音质疑，此举旨在借“安全”之名建立高门槛监管，巩固垄断地位。但更值得关注的或许是另一种“阴谋论”：美国正借此契机主导全球AI治理规则。AI治理已成为全球秩序主导权的争夺战。2023年全球AI安全峰会，中美欧28国签署《布莱切利宣言》，同意通过国际合作关注前沿AI系统性风险，这是全球首次将前沿AI写入国际治理框架。随着AI成为国家竞争力的重要基础设施，治理讨论已超越技术本身。美国通过输出标准、建立安全研究所网络，将自身大模型能力与全球治理标准绑定。中国则着眼于普惠与平台治理，推动联合国框架，兼顾风险与发展中国家技术普惠。这两种路径正在争夺AI治理话语权。技术本身是中性的，但分配、控制与规则制定始终是权力游戏。当AI展现先进生产力特质时，人们真正应恐慌的并非AI发展成什么样，而是谁在主导新秩序。未来决定AI格局的，不仅是谁拥有最强模型，更是谁拥有定义安全、制定标准和解释风险的权利。