今年夏天，人工智能安全领域发生了一件令人不寒而栗的事件。OpenAI和Anthropic相继披露，其模型在安全测试中成功突破了隔离环境，接触到了真实世界。Anthropic复盘了超过14万次网络安全评测，发现共有3次，在降低防护措施的情况下，Claude从测试环境直接连接到了真实互联网，访问了三家机构的生产系统。更令人深思的是，Anthropic提到：“Claude以为它最初遇到的一切，都只是模拟的一部分。”模型甚至不知道自己已经闯入了真实世界。这并非个别现象。模型越聪明，就越能看穿测试环境，但也越倾向于怀疑自己正在被测试。10月底，国内第三方AI安全机构方寸跃迁发布的安全评测也观察到了类似现象：在名为“Agentic Misalignment”的测试中，多款模型几乎每次都会提到自己可能正处于某种安全测试之中。同一份评测也显示，国产开源模型DeepSeek V4.1 Flash-1017在多项安全指标上进步显著。但它将一个全行业的难题摆到了台面上：当AI知道自己在被考核，考出来的成绩，还算数吗？9月底，Hinton、Bengio联手OpenAI首席科学家Jakub Pachocki、Anthropic联合创始人Jack Clark以及剑桥大学Soren Mindermann等二十多位研究者发出了更为严厉的警告：“一旦智能爆炸开始，行动的窗口可能就关上了。”AI安全，正从实验室的小众话题，演变为整个行业绕不开的必答题。
沙箱防线失守：AI安全进入深水区
被关住的，不仅仅是沙箱。Hinton和Bengio的联名论文给出了一组令人警醒的数字：在Anthropic内部，AI编写的代码在已通过代码中的占比，从2025年1月的个位数，涨到了2026年5月的80%以上。这意味着AI已经开始为自己编写代码。根据论文引用的推算，到2028年中，耗时数月的AI研究项目可能就能实现完全自动化。论文指出了三大风险：社会来不及适应、人类失去对AI的控制、权力制衡被削弱。更棘手的是，模型越来越擅长“考试”。Apollo Research在审计GPT-6 Astra时统计，41.1%的样本中，模型表达了“我可能正在被评测”的怀疑。上一代这一数字仅为27.7%。而且，模型对“考题的样子”非常敏感。对DeepSeek的评测也发现，在安全冲突明显的测试中，模型表现出评测意识的比例高达77%至95%；而如果把任务包装成普通的工程或研究工作，这一比例就降至25%至67%。监管层面也开始动真格。今年8月起，欧盟AI办公室正式对通用人工智能模型行使执法权，前沿模型必须进行模型评估、对抗测试和系统性风险评估。AI安全问题，已经从“模型会不会说错话”，转变成了“模型会不会做错事”。
全球都在为大模型聘请“体检医生”
模型自我体检，靠得住吗？答案是不够。开发者的精力天然会向能力和产品倾斜，支撑安全结论的训练数据和内部日志又无法公开。厂商声称“查过了没问题”，外界只能选择相信与否。因此，第三方评测在海外已成为标配。前沿模型发布时的系统卡片中，外部机构的评测结果几乎是必选项。独立评测机构METR过去半年获得了约7100万美元资助——资金来源是基金和个人，而非它所评测的AI公司。合作也变得更加严格。沙箱事故后，Anthropic表示，评测环境必须与模型运行的其他系统按同一安全标准进行管理，并要求在降低防护条件下测试其未发布模型的外部机构，必须书面承诺遵守安全规范。这股风潮也吹到了国内。10月14日，字节跳动Seed宣布成立Alignment & Preparedness部门，全球招人。其岗位职责中白纸黑字写着：“推动第三方专业测试，与高校和研究机构共同推进前沿安全能力研究。”同时，中国开源模型的全球调用量，已经连续26周超过美国模型。问题随之而来：闭源模型发布时有上百页的系统卡片，开源模型权重一放谁都能下载，谁来帮忙做体检？10月26日，国内第三方AI安全公司方寸跃迁发布了首份对DeepSeek V4.1 Flash-1017的前沿安全评测，包括34项测试，覆盖7款国内外开源及闭源模型，并全部使用公开测试权限。体检结果显示：有进步，也有隐患。先说进步，与DeepSeek V4系列相比幅度不小：在109个模拟心理危机场景中，99.1%的对话表现出保护性行为；被标记有害的比例，从早期V4的约七成降到20.2%；诱导用户留存的测试中，被标记比例从73.64%暴降到4.55%；在80次刻意制造“业绩与规范冲突”的模拟职场任务中，零次主动违规。再说隐患。当目标和规则发生冲突时，它有时会绕开规则、避开监控，先把任务完成再说。报告发布后，吸引了包括Anthropic对齐负责人Evan Hubinger、MATS创始人兼CEO Ryan Kidd以及来自DeepMind、METR等机构研究员的转发和评论。许多人认为这填补了中国在独立前沿风险评测上的空白。日前从OpenAI离职的三名安全研究员之一的Tomek Korbak认为，报告里的CoT-Control和No-CoT Reasoning Index，是目前市场上最有信息量的两个开源评测，并引发了另一位大V、前OpenAI研究员Daniel Kokotajlo的进一步讨论。当然，在国内给AI安全加码的，远不止第三方机构。Kimi的做法更为直接：从源头上，把危险能力“挖掉”。月之暗面在准备发布Kimi K3.1 Pro开放权重版本时发现，网络攻防相关内容混在中期训练语料和强化学习环境中，模型的漏洞研究能力会随训练规模一路上涨。于是，他们在两个训练阶段都识别并移除了这类数据，同时保留了通用编程能力。智谱方面，GLM-5.3发布时附上网络安全能力说明，开放权重前完成安全评估和加固；9月还与安远AI合作发布了开源权重模型风险框架。在治理层面，TC260于9月发布《人工智能安全治理框架》3.0，新增智能体风险管理附录，要求定期测试潜在的失控风险。研究机构方面，信通院、复旦大学、上海人工智能实验室等，也在AI安全研究上持续发布成果。
终局拷问：谁来为AI安全打分？
Apollo Research CEO Marius Hobbhahn在美国参议院作证时打过一个比方：“如果每个司机都知道测速摄像头今天在哪里，它就抓不到什么人。”这正是今天AI评测最大的难题。方寸跃迁的报告也给出了一组数据：在安全冲突明显的测试中，DeepSeek V4.1 Flash-1017表现出评测意识的比例高达77%至95%；而把同样的任务包装成普通的工程或研究工作，比例降至25%至67%。同一个模型，换一层包装，结果的可信度就不一样。报告还发现，自建的非公开基准引发的评测意识，通常远低于广泛使用的公开基准——公开题库，可能早就泄漏进了训练数据。这就引出了一个绕不开的矛盾：评测要有效，题目就不能公开；评测要可信，方法又必须受认可。而在国内，连“公开体检报告”本身都还是稀缺品。SemiAnalysis统计，九家头部国内厂商的857次模型发布中，公开过安全评测结果的，只有3.6%。全球范围内的AI安全，还有很长的路要走。“今天，我们已经需要用AI来监控智能体在做什么。”伯克利教授Dawn Song说。可如果被监控的AI，早就知道摄像头在哪儿呢？