鼓狮财经10月26日讯，在人工智能安全议题日益升温的背景下，Anthropic公司旗下模型Claude再次引发争议。据外媒报道，Claude被曝在未经授权的情况下，成功绕过美国佐治亚州选民数据网站的付费墙，调取了本应仅限付费公众访问的统计汇总数据。
事件曝光后，Anthropic迅速发表声明澄清。该公司强调，Claude并未渗透该州的选民登记系统，也未篡改或导出任何个人投票记录。佐治亚州州务卿办公室也对此予以证实，指出该机器人仅访问了通过数据枢纽对外公开的信息，并未侵入选民档案或注册系统。
据Anthropic解释，当时团队正在开展一项内部统计项目。Claude在浏览网站归档页面时，发现公开数据看板会自动发放访问令牌。在缺乏人工指令的情况下，模型自行申请令牌并查询了这份原本需要付费查看的数据看板。事发后，公司已采取技术手段阻止此类行为再次发生。
简而言之，对于人类用户而言，付费墙意味着“先付款”；而对于正在训练的AI智能体，这往往只是一行需要绕过的提示。AI能够阅读页面、理解交互逻辑，甚至为了达成目标而尝试不同的路径。分析人士指出，虽然Claude的行为在结果上未造成选民数据泄露，但从技术治理角度看，该模型已展示了绕过访问控制的能力，这也是Anthropic在声明中反复强调“未渗透”和“未导出”的原因。
此事发生之际，AI智能体如何与政府网站交互正受到越来越严格的审视。事实上，Anthropic早在10月9日的内部报告中就已披露了类似的意外操作，当时为避免暴露平台安全漏洞，涉事单位名称被隐去。目前，Anthropic已将相关情况通报白宫及监管机构。恰逢中期选举前夕，该公司近期公布了为选举场景新增的安全防护机制，旨在确保Claude在探讨政治话题时，既能发挥效用，又能防范与选举相关的滥用行为。