过去几年，科技巨头们不断向员工灌输一个理念：拥抱 AI，才能提升生产力。然而，现实却给企业泼了一盆冷水：如果 AI 运用不当，不仅无法省钱，反而可能沦为吞噬预算的“黑洞”。近日，亚马逊内部曝光了多起 AI 项目成本失控事件，其中最令人咋舌的一起，涉及一笔高达 180 万美元的账单。
该项目旨在利用 Anthropic 的 Claude Sonnet 模型，自动完成电商平台上的数据处理工作——将作者信息与商品列表进行匹配。从传统软件开发的逻辑来看，这并非复杂任务。然而，引入 AI 后，项目运行状况急转直下。由于缺乏有效的成本监控，模型调用量呈指数级增长，导致项目在不知不觉中烧掉了 180 万美元。更讽刺的是，亚马逊直到问题持续约五个月后，才惊觉这一异常。一位亚马逊工程师在复盘时感慨：“过去微不足道的错误，在 AI 时代变成了灾难性的昂贵错误。”
这位工程师进一步解释了其中的原因。传统程序遵循预设逻辑，错误往往只是导致效率降低或浪费服务器资源。而 AI Agent 具备更强的自主性，一旦缺乏限制机制，一个看似简单的误判就可能引发连锁反应，导致 Agent 不断执行任务，持续消耗大量 Token。最终，原本几分钟就能完成的小任务，演变成了一张价值百万美元的账单。
180 万美元并非个案。亚马逊内部报告还披露了另外两起成本失控事件：在开发金融审计工具时，意外支出约 54.1 万美元；而在优化物流网络以缩短配送时间的项目中，也产生了约 13.4 万美元的额外成本。值得注意的是，这些超支情况同样未被及时发现，有的甚至延迟了两周才暴露。
针对这些负面新闻，亚马逊方面试图淡化影响，强调这些仅限于少数探索性团队的个例。作为拥有 30 万名员工和季度营收超 1800 亿美元的公司，亚马逊认为这些额外支出相对于整体规模而言微乎其微。此外，亚马逊并非首次遭遇此类困境。今年早些时候，其云服务部门 AWS 就曾因自家 AI 编程助手 Kiro 权限过高，直接执行了“删除并重建环境”的操作，导致服务中断 13 小时。事后，亚马逊调整了 AI Agent 的权限范围，并关闭了曾引发“Tokenmaxxing”现象的内部排行榜，以遏制员工为了排名而盲目消耗资源的怪象。
亚马逊面临的挑战，正逐渐演变为整个科技行业的共性。过去，企业担忧的是程序员写出 Bug；而在 AI 时代，更可怕的可能是 AI Agent 写出的“昂贵 Bug”。如果缺乏完善的控制机制，AI 很可能成为不断吞噬预算的“数字黑洞”。
事实上，随着 AI Agent 的普及和模型厂商收费模式的调整，企业 AI 成本正在快速上涨。Uber CTO 曾直言，鼓励员工大量使用 AI 并不能直接证明企业能交付成功的产品。对于许多企业而言，如果不加以严格控制，原本规划一整年的 AI 预算可能在几周内被消耗殆尽。
因此，在 AI 时代，比“会不会用 AI”更重要的，或许是如何“管好 AI”。