OpenAI近期再次裁撤了一支名为“应急准备”的安全团队。该团队专责评估自家AI可能引发的灾难性社会风险。官方宣称,安全工作已全面融入开发流程,不再需要单独设立团队。回顾过去两年,OpenAI曾先后组建过四支安全力量:Safety团队(关注当前产品安全,负责人离职后并入研究部门)、Superalignment团队(关注远期超级智能对齐,已于2024年5月解散,继任的Mission Alignment团队仅存续16个月)、AGI Readiness团队(2024年10月解散,负责人离职时表示外部研究更具影响力),以及本次被解散的Preparedness团队。如今,几乎所有安全团队均已消失,其职能均已被宣称“融入开发流程”。
01、“应急准备”团队的职能与解散原因
2023年10月,OpenAI宣布成立Preparedness团队,旨在追踪、预测并防范前沿AI模型可能带来的极端风险场景,包括大规模社会危害、生物化学技术滥用、大规模说服与欺骗、恶意代码生成等。为系统化评估这些风险,团队制定了27页的“应急准备框架”,采用矩阵方法对模型在多个风险类别下的能力进行评级。框架规定,只有将风险降至“中”或以下的模型才能部署;若无法将任何风险降至“严重”以下,公司必须停止开发。
2026年2月,Sam Altman从Anthropic挖来Dylan Scandinaro接任负责人。Altman在X平台上表示,即将以极快速度推进工作并使用极其强大的模型,这需要相应的安全保障。然而,仅5个月后,该团队于7月底正式解散。目前,其高风险评估工作已被拆分至现有团队。负责人Scandinaro转向研究“递归自我改进”AI的安全风险。联合创始人Greg Brockman解释称,安全工作已更紧密地编织进模型开发流程,不再需要独立团队审视最新模型。
这种转变背后的考量主要源于商业化压力。独立安全团队的核心职能是“说不”,即延缓发布、要求更多测试或否决风险方案,这常被视为产品阻力(此前GPT-4o的安全测试曾从数月压缩至一周以抢发)。虽然“融入开发”理论上能让安全更早介入,但两者的根本区别在于:独立团队拥有否决权,而嵌入式安全人员通常没有。
02、核心高管接连离职,内部焦虑情绪蔓延
近期,OpenAI多名安全高管相继离职,包括首席伦理官Chloé Bakalar、安全系统主管Johannes Heidecke以及前超级对齐负责人、首席未来学家Joshua Achiam。其中,Chloé Bakalar于2025年8月加入,此前在Meta担任了近六年的首席伦理学家,负责为Instagram和Facebook建立AI伦理框架。她在普林斯顿、宾夕法尼亚和伦敦大学学院均有学术背景,在OpenAI期间主要负责模型开发伦理、人机交互及机器意识讨论。她离职时是公司唯一的专职伦理学家,且没有接替人选。OpenAI回应称,AI伦理并非某个人或某个团队的专属工作,而是深嵌入多团队驱动的模型构建过程中。
在这些人事变动的背景下,员工内部情绪变得紧张。一位员工形容当前氛围弥漫着“翻腾的责任感与恐惧感”,大家普遍担忧公司在安全方面做得不足。这种不安在7月Hugging Face自主入侵事件曝光后尤为明显,员工公开希望公司将此视为“警告性开火”。
03、创始成员再离席:Scott Gray的告别
统计显示,2026年OpenAI已有12位知名高管和核心负责人离职或退出核心岗位。8月15日,创始团队成员Scott Gray也已离开,既无官方声明也无告别长文。
Scott Gray(内部花名Bob)是OpenAI的神秘狠人。他此前从事GPU底层优化,加入后专注于大规模模型训练的底层计算加速。他是GPT-4技术报告的署名作者之一,也参与了OpenAI Five和Sparse Transformers等项目。他在Bluesky上的自我介绍曾是“GPU Geek at OpenAI”,如今这句话已成过去式。
