北京时间7月29日，据《华尔街日报》报道，硅谷正酝酿一股反Anthropic的风潮。其根源在于Anthropic推出的产品与现有软件提供商形成竞争，以及对封闭式AI生态系统的倡导。
许多创业公司创始人、软件公司高管及AI研究人员表示，Anthropic推出的一些工具直接与合作伙伴的产品形成竞争，促使他们转向价格更低的AI模型。例如，Anthropic于4月推出的Claude Design，就被认为直接对标其合作伙伴、设计软件公司Figma的服务。据活动参与者透露，Claude Design发布后不久，Figma CEO迪伦·菲尔德在一场活动上表示，Anthropic在沟通中“未能始终保持坦诚”。他称：“整个行业都从这次事件中吸取了很多教训。有些公司可能过于信任Anthropic了。”出席该活动的笔记平台Notion AI负责人萨拉·萨克斯也表达了类似观点。
此外，Anthropic还因数据保留政策的变更，以及发布拒绝回答AI研究问题的强大模型而招致批评，这引发了一些倡导AI系统更高透明度的研究人员的不满。外界也对Anthropic高管关于“开放权重”AI安全风险的警告持怀疑态度。开放权重模型成本低廉，且允许用户定制及自行安装安全防护机制。近几个月，中国开发者推出的此类模型凭借接近美国前沿AI系统的能力赢得了用户赞誉。哥伦比亚大学工程学院计算与AI副院长维沙尔·米斯拉指出，Anthropic虽开发了优秀产品，但其关于安全和风险的声明经不起推敲。“他们在大众中制造恐慌，”米斯拉表示，“公众的恐惧给了他们筹码，从而推动出台有利于自身的监管政策。”
Anthropic发言人辩护称，这些措施旨在确保模型安全，防止对手利用模型制造严重风险。CEO达里奥·阿莫代伊及其他高管曾多次谈及开放权重系统的风险。Anthropic发布了大量安全研究报告，并通过公开支持和政治捐款推动AI监管。周一，在英伟达、微软等多家公司签署联名信支持开放模型后，阿莫代伊发表公开信阐明立场：“Anthropic从未主张禁止开放权重模型，”他写道，“不具备危险能力的开放权重模型是一种公共福祉。”
包括政府官员在内的批评者认为，Anthropic对开放模型风险的警告是其试图阻碍竞争对手的一部分，因为这些模型可能会削弱Anthropic的收入化目标。该公司最早可能在今年秋季上市。多伦多大学副教授凯文·布莱恩则为Anthropic辩护，称对开源风险的担忧是真实且普遍的。“任何开源的东西都会立即被越狱，”他说，“一旦模型发布出去，那就没办法了。”一些批评者指出，Anthropic自身构建模型的过程类似于蒸馏技术。“有趣的是，他们反对蒸馏，但自己却在未支付版权费用的情况下对整个互联网进行了蒸馏，”AI生产力工具创业公司Maple联合创始人兼CEO马克·苏曼表示，“我只是觉得奇怪，他们现在反过来告诉别人不要做他们自己做过的事。”
支持开放权重模型的联名信发布数小时后，OpenAI和谷歌相继签署，使得Anthropic成为少数未支持该倡议的知名AI公司之一，目前已有超过70家硅谷公司加入。科技人士和政策制定者担忧AI竞争将演变成双寡头格局，即Anthropic和OpenAI主导市场。这种担忧成为上周六旧金山中心一场抗议活动的核心议题。该活动由提供开源AI工具的Hugging Face组织，Hugging Face近期曾遭OpenAI失控模型入侵。抗议者马赫什·兰贝表示：“前沿AI实验室正在囤积智能。智能应该被民主化。”
许多创始人和高管表示，Anthropic发布Claude Design为硅谷敲响了“警钟”，让他们确信Anthropic会推出工具与其竞争并抢夺客户。此后，他们转向更廉价的开源模型，尤其是非美国前沿实验室开发的模型。今年6月，随着Anthropic发布Fable 5，这种不信任加剧。Fable 5是强大模型Mythos的受限版本，最初在回答AI开发问题时会降低质量但未告知用户。研究社区批评这种“不透明的安全措施”具有反竞争性。Anthropic随后道歉并公开限制措施，但仍表示对高风险请求将拒绝回应。
Anthropic发言人表示，限制回答是为了防止外国对手利用模型制造风险。Fable 5不支持“零数据保留”，公司出于安全目的将数据保存30天。这引发涉及敏感数据企业的担忧，他们担心数据被用于训练竞争产品。Anthropic发言人澄清，员工无法查看保留对话，且承诺不使用这些数据训练新模型。这些限制仅适用于Fable和Mythos等最强模型。