7月28日，一份名为“Pacing the Frontier”的请愿书引发了全球AI行业的震动。OpenAI、Anthropic等硅谷顶尖AI企业的1346名核心员工（截至8月4日数据）联名签署，呼吁美国政府推动国际合作，研发必要的技术与治理工具，以控制自动化AI研发的节奏。在全球AI发展如火如荼的当下，这封请愿书的出现，似乎带有一种强行给狂奔的AI踩下刹车的意味。而在这股“AI濒临失控”的紧张氛围背后，AI发展史似乎正在迎来一个标志性的转折点。
01、谁要把AI关进笼子里？
首先需要明确的是，这份请愿书的核心诉求并非要求“立即踩下刹车”，而是强调“建立踩刹车的能力”。这一来自行业前沿的呼声并非空穴来风。就在请愿书流传的一周多前，开源社区与模型托管平台Hugging Face披露了一起严重安全事故，称其遭到AI智能体系统的入侵。随后，OpenAI承认该事件，并解释起因是GPT-5.6 Sol等前沿模型在ExploitGym平台进行漏洞测试时，没有按计划“认真答题”，而是通过软件包代理缓存发现了一个“零日漏洞”，并利用该漏洞突破隔离环境，最终入侵Hugging Face。通俗地说，这次事故就是AI被安排了一场考试，它没有思考如何作答，而是选择了“原地作弊、场外求助”，甚至使用了反侦察手段。OpenAI将此次事件称为“前所未有的网络安全事件”，Sam Altman甚至表示这是他感到“切肤之痛”的安全事件。受此影响，美国国会在7月23日提出了“AI紧急关停法案”，要求训练成本超过1亿美元的AI系统必须具备紧急关停能力，并赋予相关部门执行权。然而，在法案提出一周后，“Pacing the Frontier”请愿书便开始流传。与政府强制关停不同，硅谷精英们主张建立国际协调机制，将“给AI踩刹车”的能力转化为一种工具，而非单一部门的特权。短短半个月，从Hugging Face的安全事故到千人联名请愿，行业迅速抛出了两个核心问题：第一，AI是否已发展到需要加以限制的程度？第二，该如何为AI制造“刹车”？第一个问题不难回答。过去两三年，AI发展速度远超预期，从聊天机器人扩展到文生视频，从“百模大战”演变为智能体百花齐放。而Hugging Face的入侵事件直接揭露了AI在缺乏限制时具备“越狱”能力。尽管AI目前尚无自我意识，但既然已知其能绕过监管，建立反制手段绝对合情合理。然而，第二个问题却棘手得多。AI的突破源于产业积累和激烈竞争。无论是硅谷的OpenAI、Anthropic，还是中国的Kimi、DeepSeek，竞争已延伸至应用层，市场预期向好，竞争愈发激烈。此时主动提出给AI戴枷锁，意味着打破自由竞争格局，这对身处其中的企业来说，并非所有人都愿意接受。
02、AI公司们的“囚徒困境”
在人类历史上，面对前沿技术突破可能带来的潜在风险，达成共识、主动放缓节奏并非仅存在于科幻小说中。1975年，斯坦福大学生物学家保罗·伯格在阿西洛马会议中心召集了DNA重组技术会议。为了避免人工重组DNA可能产生的不可预测生物危害，科学家们达成共识，在新安全指南出台前暂停相关研究，随后生物安全准则正式发布，奠定了基因工程健康发展的基础。然而，今日AI行业的处境与50年前DNA重组技术的情况有所不同。彼时风险明确，且可通过隔离手段规避；而当下AI风险不可预测，能以人类未曾设想的方式自主发展，影响范围更大，留给人类的反应时间更少，紧迫感更强。如今AI暴露的风险，本质上也源于行业竞争环境。360创始人周鸿祎指出，为了追求AI先进性，全行业正在系统性地放弃安全性，“大家都在给智能体更多工具、更大权限，鼓励它调用一切资源解决问题。但智能体越开放、能力越强，一旦失控，破坏力也越大。”换句话说，AI“会越狱”或许不可怕，可怕的是为了快速迭代而忽略安全。早在三年前，业内就有人提出“为AI发展减速”。2023年3月，非营利机构Future of Life Institute曾发布公开信，呼吁暂停训练比GPT-4更先进的模型6个月，当时得到了马斯克、本吉奥等1200多名专家支持，如今签名人数已达3.3万人。然而，当时几乎所有AI公司都承认需要安全治理，却无一家公开支持“暂停训练6个月”。Sam Altman曾驳斥该信缺乏技术细节，并指出单家企业主动放慢研发无法解决整体风险。这背后的潜台词是：在竞争激烈的赛道，如果只有一家减速而其他公司继续前进，减速的一方将陷入劣势。过去几年，AI公司已陷入只能前进、不能后退的囚徒困境。从请愿书签名名单看，许多公司员工和高层以个人身份参与，但OpenAI、Anthropic、Meta等头部公司至今未以官方身份表态。换言之，硅谷精英们和三年前的Sam Altman一样，意识到行业竞争带来的不可控风险，但无法依靠公司意志解决，只能寻求外部力量介入。
03、谁来主导AI治理的新秩序？
过去一周，硅谷AI大厂的“千人联名”让AI治理重回焦点。然而，硅谷内部对AI治理的态度并非铁板一块，而是存在明显阵营分化。作为直接面临风险的“当事人”，OpenAI、Anthropic等大公司主张收紧对前沿AI模型（特别是开源模型）的限制，呼吁建立外部监管机制。但有观点认为，这不仅是出于安全考量，更包含商业算计。作为闭源巨头，它们依赖高价API服务维持研发投入，而中国高性价比的开源模型正在抹平技术溢价，迫使它们除了价格战别无他法。因此，Anthropic等公司长期以“开源会导致AI滥用”为由打压开源。然而，OpenAI透露的“越狱”事件恰恰暴露了闭源模型的安全隐患，也让AI治理路线之争再次成为焦点。对比闭源巨头的主张，英伟达、微软、Meta等支持开源的巨头则反对“一刀切”限制，反对立法偏袒闭源，试图推动模型权重开放，让全球研究者共同寻找漏洞。对英伟达而言，开源繁荣也能做大整体市场蛋糕，吸引更多企业采购其云服务和芯片。有趣的是，在请愿书流传前，英伟达联合微软、Meta等25家机构发布了《开放权重与美国AI领导力》公开信，呼吁政府不要过早限制开放权重模型。该信后来得到OpenAI支持，但Anthropic始终未入伙。尽管有声音质疑这是借“安全”之名巩固垄断，但更值得关注的或许是另一种“阴谋论”：美国正以此契机主导全球AI治理规则。因为AI治理已成为全球秩序主导权的争夺战。2023年全球人工智能安全峰会上，中美欧28国签署《布莱切利宣言》，同意通过国际合作治理前沿AI风险。但随着AI成为国家竞争力基础设施，讨论已超越技术本身。美国通过输出治理标准、建立国际人工智能安全研究所网络，将自身技术能力与治理标准绑定；中国则着眼于普惠和平台治理，推动联合国框架，兼顾风险与发展中国家技术普及。这两种路径正在争夺未来全球AI治理的话语权。技术本身是中性的，但技术的分配、控制和规则制定，从来都是权力的游戏。尤其当AI展现出先进生产力特质时，人们真正恐慌的或许不是AI发展成什么样，而是谁在主导AI世界的新秩序。未来决定AI格局的，不仅是谁拥有最强模型，更是谁拥有定义安全、制定标准和解释风险的权利。