继此前警告AI失控风险并呼吁暂停前沿AI研发后，Anthropic近期又有新举措。据最新消息，Anthropic代表已向美国国会议员私下介绍了一份旨在监管前沿AI安全的法案草案。这表明，在AI发展陷入争议之际，这家AI巨头正积极采取措施，试图影响关乎其技术监管的规则制定。
Anthropic的一位发言人对媒体表示，该法案草案充分体现了公司在《高级人工智能框架》中提出的建议。自今年6月起，Anthropic便一直在游说联邦及州层面的立法者采纳这些建议。该公司认为，这些政策既合理又可行，国会应当尽快采取行动。
根据草案内容，仅当某个模型面临“可预见且迫在眉睫的风险”，且该风险可能造成超过10亿美元的损失，或导致50人以上死亡或严重受伤时，政府才有权阻止该模型的发布或使用。法案界定的风险范围包括生物武器的制造或发布、模型规避开发者设定的控制措施，以及进行网络攻击。在措辞上，该草案借鉴了加利福尼亚州的AI法律，尤其是去年签署生效的SB 53法案。
值得注意的是，尽管近期以OpenAI和Anthropic为首的AI公司披露了一系列安全事故，但截至目前，已公开的事件中尚无造成大规模人员伤亡或超过10亿美元损失的情况。
此外，草案规定需设立独立评估机构，负责定期评估AI实验室及其前沿模型。这些机构须在美国商务部注册，虽然可由相关实验室支付评估费用，但其报酬不得与最终的评估结果挂钩。
一旦评估机构认定某家公司的前沿模型存在草案所列的“迫在眉睫风险”，必须在评估完成后72小时内向美国商务部报告。商务部在确认模型构成风险后，可请求法官下令阻止该模型的发布。值得注意的是，法案明确禁止美国其他任何部门、机构或官员暂停该模型的开发、部署或内部使用。仅美国哥伦比亚特区联邦地区法院的法官有权下令暂停该模型。
“独立评估机构”是Anthropic一直积极推动的方案之一。此前，公司CEO达里奥·阿莫迪在呼吁全行业放缓前沿AI开发时提出的三步方案中，就包含了派遣“嵌入式评估员”的设想。
且公司已开始付诸实践。本周五消息显示，Anthropic已向一家外部评估机构授予“员工级别访问权限”，以评估其模型风险。该机构名为METR，是一家非营利组织，此前曾与OpenAI、Anthropic、谷歌和Meta等顶尖实验室合作。目前，METR已派遣团队进驻Claude模型开发办公室，并获得了Anthropic的硬件设备及内部系统的使用权限。
Anthropic提出的法案还将排除部分州级AI法律的适用范围，这些法律主要涉及风险信息公开披露、第三方评估及重大安全事件报告等要求。此外，草案还要求前沿AI实验室制定安全框架、针对新推出的前沿模型发布透明度报告、建立举报人保护机制，并向商务部报告重大安全事件。