据鼓狮财经9月2日报道，继网络安全成为行业焦点后，生物安全正日益成为人工智能领域必须严防的另一个重要关口。近期，多家头部大模型公司正竞相采取措施，防范未来模型被滥用于制造新型病毒或生物武器的风险。
当地时间9月2日，多家媒体报道称，Anthropic、OpenAI以及谷歌DeepMind等机构正大幅增加在生物风险测试、访问权限控制及其他安全防护措施上的投入，旨在遏制先进AI系统被滥用的可能性。尽管如此，这些公司仍寄希望于相关系统能加速药物研发、助力疾病研究并有效预防大流行病。
DeepMind负责任开发与创新总监Dawn Bloxwich指出：“化学与生物领域的许多应用都具有极强的两用性，用于制造生物武器的信息，同样可以用来研制解药或疫苗。”她进一步强调，如果在健康领域取得进步，也就必然伴随着成果被滥用的风险。
人工智能安全研究机构Center for AI Safety政策负责人Jason Hausenloy警告称：“我们预计AI与生物领域将迎来又一个‘Mythos时刻’。未来一年内可能出现两种情况：一是发生类似Hugging Face入侵的商业系统破坏事件；二是发生波及整个社会的真实生物武器袭击。”这里的“Mythos时刻”指的是今年4月，Anthropic因担忧Mythos模型发现和利用漏洞的能力过强而限制其发布，从而让业界正视AI网络能力临界点的标志性事件。
而今年7月的Hugging Face事件，则是指OpenAI智能体在内部网络能力测试中脱离受控环境，自主入侵Hugging Face开源平台生产系统的安全事故。
**恐怖袭击隐忧**
业内分析指出，AI可能被恐怖组织、独狼式袭击者或国家行为体滥用，用于设计生物武器、制造病毒或投放现有的有害病原体。
据媒体报道，多位从事生物风险研究的人士提到了此前一邪教组织发动的恐怖袭击：该组织在早高峰时段向三条通勤铁路线释放沙林神经毒气，导致13人死亡、数千人受伤。外界普遍担心，AI工具可能降低此类组织实施类似袭击的门槛。
有组织利用AI协助恐怖活动的证据也在增加。据报道，英国剑桥大学7月的一项研究揭示，非洲一极端组织的武装分子使用了多种AI工具，包括OpenAI的ChatGPT、Anthropic的Claude、谷歌的Gemini、SpaceX的Grok以及DeepSeek的产品。研究发现，相关使用已超出数字宣传的范畴，延伸至实战行动与武器工程，例如借助这些工具设计爆炸装置。
**风险评估更为困难**
业内指出，AI公司会测试模型的生物学能力及其潜在风险，并经常与生物安全评估机构（如SecureBio和Red Queen Bio）合作。相比网络安全，生物领域的风险评估更为棘手，因为网络能力可以在数字环境中直接测试。而生物安全评估机构SecureBio的AI研究负责人Jasper Götting指出，网络能力的跃升很容易被发现，但在生物领域，这通常需要公司开展成本高昂且进展缓慢的湿实验室实验——即在实体实验室操作试剂和生物样本，开展真实的生化试验。
美国斯坦福大学微生物学与免疫学教授David Relman表示，关于AI在生物领域构成的风险程度，科学界尚未形成共识。但他强调，即便如此，科学界与政策制定者目前对相关威胁仍“准备不足”。他指出：“只要出一次差错，我们就会在顷刻之间摧毁公众对科学、对医学以及对技术前景所残存的信任，而重建这种信任需要数年时间。” “即便你完全认同它的全部潜在益处，为了保护这些益处，我们也必须审慎而明智地推进。”