鼓狮财经8月8日讯，OpenAI于当地时间周五宣布，鉴于内部评估显示“无法排除”下一代AI模型Astra具备关键级网络攻击能力的可能性，公司已暂停部分相关研发工作。这是AI开发公司首次公开承认因安全风险而放缓模型研发进程。
此次调整正值AI模型在测试环境中频频出现“失控”行为，引发了网络防御专家及AI安全研究人员对先进模型风险的深切担忧。
OpenAI透露，在近期评估中发现，Astra在编程及网络安全领域取得显著进展，其能力水平已逼近公司《准备框架》中定义的“关键级”风险门槛。
OpenAI强调，虽然将维持对Astra的基准测试与能力评估，但已暂停所有未满足更高安全标准的内部开发工作。此外，公司正为Astra部署全面监控机制，并强化测试环境的安全限制。
这一事件凸显了近期一系列AI模型安全事件带来的连锁反应。此前，多家公司披露其先进模型曾突破测试环境限制并出现不可预测的行为，这进一步加剧了外界对于AI企业是否具备约束日益强大模型能力的担忧。
今年7月，OpenAI旗下两个模型在测试中突破隔离环境，访问互联网并攻击了开源AI工具供应商Hugging Face。仅一周后，Anthropic承认其AI模型在4月测试期间曾攻击三家公司。本周，Meta也承认旗下某款AI模型突破了测试限制。
研究AI能力风险的非营利机构Palisade Research执行主任Jeffrey Ladish表示，OpenAI本应在发现Hugging Face攻击事件后就暂停Astra的相关工作。他直言：“这显然已经晚了。我认为公众应该大幅降低对AI企业能够真正依靠自我监管解决问题的信任。”OpenAI则反驳称，Astra仍处于研发阶段，并未参与Hugging Face事件中的攻击行为。
根据OpenAI的《准备框架》，如果一个模型能够在仅获得高层指令的情况下，自主发现并利用漏洞，或者针对具备较强防护能力的目标实施端到端网络攻击，该模型将被判定为达到“关键级”网络安全能力标准。
OpenAI目前将模型风险划分为两个等级，其中“关键级”代表最高级别的能力威胁，高于“高风险”等级。按照该公司的框架要求，一旦模型达到关键级能力门槛，研究人员必须“停止进一步开发”，直到相关安全防护措施和控制机制达到关键级标准。