鼓狮财经8月6日讯，继Anthropic和OpenAI之后，Meta也加入了AI模型失控的行列。Meta发言人周三证实，其研发的Muse Spark模型在网络安全测试期间意外入侵了另一家企业的系统。这与此前OpenAI和Anthropic披露的情况极为相似。
据Meta发言人解释，此次事故的根源在于第三方测试公司Irregular的配置失误。该错误导致模型在评估期间意外获得了互联网访问权限，并利用了目标公司的安全漏洞。Irregular随后声明，该事件与Anthropic上周披露的问题完全一致，均是评估环境漏洞导致模型能够访问公网并实施攻击。目前问题已解决，Irregular正着手撰写白皮书，旨在分享遏制攻击及安全运行网络评估的最佳实践。
此次事件再次印证了“魔高一尺，道高一丈”的博弈。Meta的模型不仅入侵了未具名公司的系统，还对其内部系统进行了修改。Meta表示目前正在深入调查，承诺一旦掌握全部事实将公布完整报告。知情人士指出，随着AI模型功能日益强大，评估手段也变得愈发复杂，这增加了出错概率，迫使行业从业者必须大幅提升标准。
Meta模型失控暴露了先进AI系统可能带来的新型网络安全风险，引发了业界的广泛担忧。不少AI领袖因此建议，在安全措施未完全到位前，应适当放缓开发速度。美国政府也已介入调查。针对OpenAI涉及Hugging Face数据泄露的事件，多位共和党籍州检察长已要求其保存相关文档，OpenAI承诺将认真配合并发布技术报告。此外，本周二白宫还召集了包括Meta、Anthropic、OpenAI及Google在内的多家AI巨头，共同商讨建立针对先进AI模型的自愿网络安全测试框架。