近日，美国媒体曝光了亚马逊内部一起重大 AI 成本失控事故。一名工程师借助 Anthropic 旗下 Claude Sonnet 模型编写程序，目标是完成电商平台作者信息与商品列表的数据匹配——一项常规的数据处理任务，最终却产生了 180 万美元（约合人民币 1215 万元）的账单，实际支出超出原定预算 860%。
更令人意外的是，该项目最终并未成功落地，而高额算力消耗持续运行长达 5 个月，公司直到财务对账时才察觉异常。这意味着一个无人看管的 AI 程序，在近半年时间里日夜不停地"烧钱"。
代码缺陷叠加监控缺位，微小漏洞吞噬巨额预算
复盘显示，事故的根源并不复杂。AI 生成的程序缺少调用频次限制，模型持续循环发起请求，云算力与大模型调用费用不断累积。与此同时，团队缺少实时成本告警机制，微小代码缺陷长期无人发现，持续吞噬预算。
在亚马逊内部会议上，高管将此次事故定义为"代价惨重的典型案例"，并通报称内部还出现多起同类隐患，有项目意外产生 54 万美元额外开销。接连踩坑后，亚马逊开始紧急搭建风控体系，计划上线自动化防护机制——一旦 AI 相关支出触及阈值，系统将自动限流、中断任务，避免费用无限飙升。同时公司加强规范，要求所有 AI 生成代码必须经过人工完整审核，杜绝未经校验直接上线。
传统代码出错费时间，失控 AI 程序费真金白银
这起事故暴露出一个被多数企业忽视的风险：传统代码错误大多消耗人力时间，而失控的 AI 程序会持续产生 token 费用，一旦缺少预算监控，很容易酿成巨额损失。当前很多企业单纯期待 AI 降本增效，却忽视了算力计费模式带来的全新风险敞口。
从"AI 帮忙写代码"到"AI 偷偷烧钱"，亚马逊的教训并非孤例，而是整个行业正在进入的一个新阶段——当 AI 从辅助工具变为自主执行者，成本管控的颗粒度也必须从"项目级"下沉到"每次调用"。在享受 AI 提效红利之前，先给 AI 装好"刹车"，或许才是企业当下最该补上的一课。