AI账单失控，根子不在模型贵

企业AI成本超支不是创新税。BCG方法论显示，95%的Token成本沉在水下，按结果算钱才能找到降本钥匙。模型路由、上下文管理、责任建模三大抓手，12个月可释放25%-50%降本空间。

用户看到的AI答案只占Token成本的5%，其余95%的过程成本沉在水下。按Token算钱只能看到贵，按结果算钱才能看到贵在哪里。

企业AI从试点走向规模化的拐点上，大多数老板和CMO正在被同一件事困扰：预算明明批了，模型明明在降价，账单却像失控的水龙头。BCG这套方法论最刺眼的地方在于，它直接否定了我们用传统软件成本逻辑理解AI投入的惯性。AI的成本曲线不是线性的，它会随着调用深度、上下文膨胀和架构复杂度超线性爬升。换一把尺子重新丈量成本，可能是当下中国企业从AI投入中挤出真实回报最紧迫的动作。

一、5%与95%：被看见的答案和被忽略的过程

传统SaaS软件的账单逻辑，企业财务和采购早就熟透了：按席位收费，按模块收费，边际成本低且可预测。但AI的Token账单完全打破了这种确定性。一个看似简单的问答，背后可能经历了几十次检索、十几轮推理、一串工具调用和历史信息反复处理。用户看到的只是最终的答案文本，而这些答案文本的生成成本，只占整个任务Token消耗的5%左右。

这个5%与95%的裂谷，构成了企业AI成本失控的第一层真相。BCG的调研数据显示，近七成企业过去一年至少有部分AI项目超出预算，近六成企业尽管投入显著，仍未获得实质性业务回报。这两个数字放在一起看，指向的不是模型太贵，而是大多数企业根本没有能力回答一个基础问题：我的AI钱到底花在了哪里，换回了什么结果。

成本归因的困难，是AI时代企业管理者面临的新瘫痪。传统业务里，一笔市场投放的ROI可以追溯到某个渠道、某次活动、某批素材。但AI工作流里，一次客服对话可能横跨模型调用、知识库检索、工具执行和多Agent协作，成本的颗粒度散落在整个链路中，无法简单归属到某个模型、某个部门或某个业务动作上。当财务看不到归因，预算审批就变成了情绪决策；当业务负责人看不到投入产出比，AI项目就变成了饮鸩止渴的成本黑洞。

BCG给出的第一性解方，是把度量单位从Token本身转向结果。成本管理不是问“一个Token多少钱”，而是问“一次成功的业务结果花了多少钱”。这个公式是：每次成功业务结果成本 =（单位模型与算力价格 × 单次调用资源消耗 × 单任务调用次数）÷ 任务成功率。这个公式拆开来看，藏着三条清晰的优化线索：单位价格由模型路由和算力组合决定，资源消耗由上下文调用管理决定，调用次数和成功率由智能体架构设计决定。这三条线索，正是三大抓手的全部秘密。

二、模型路由：5到25倍的成本差，不该靠感觉弥合

轻量模型和高性能模型之间的单位Token成本，可以相差约5到25倍。这意味着什么？意味着一个本来可以用千问或豆包级别的轻量模型搞定的日常问答，如果被默认路由到GPT-o1或Claude级别的高性能模型上，成本会在无声中放大一个数量级。企业在AI应用起步阶段，通常倾向于统一用“最好的模型”，因为团队规模小，调用量低，差价可以忽略。但当活跃用户从几百涨到几十万，当AI功能从内部测试变成对外服务，这个差价就会从会计上的四舍五入变成经营上的切肤之痛。

模型路由的本质，是好钢用在刀刃上。BCG建议企业建立默认模型与升级规则，员工聊天机器人等通用场景默认采用轻量模型，只有在任务复杂度、风险等级或质量要求达到特定阈值时才升级到高性能模型。这套规则必须通过模型网关统一路由实现，网关根据任务类型、上下文长度、响应时延要求自动选择最匹配的模型，而不是让每个开发团队各自为政地选模型。

算力组合是路由策略的延伸。自有算力适合承接稳定、可预测的基础负载，外部模型服务适合应对不确定需求和峰值流量。当业务增长前景尚不明朗时，优先使用外部服务可以避免显卡闲置；当需求稳定后，逐步将高频可预测任务迁移到自有算力，可以获得显著的成本优势。BCG的案例中，仅算力组合的优化就贡献了约20%的运行成本下降，动态调度自有GPU又额外贡献了10%。

分时资源调度给这套体系加上了时间维度。高峰时段保障实时请求的响应质量，闲时集中处理知识库更新、批量推理、模型评测等异步任务。这个逻辑和航空公司的收益管理如出一辙：同一架飞机，不同航班、不同时段的定价策略完全不同。中国企业的GPU资源尤其稀缺，如果把闲时算力白白浪费，本质上是在为“看不见的闲置”支付机会成本。

三、上下文管理：给知识和提示词减熵

上下文是AI成本膨胀的隐形推手。知识、规则、工具输出、历史信息不断地涌入上下文，在多轮调用中被反复处理。每一轮对话都可能重新携带之前所有的上下文，成本随着上下文长度的增长迅速膨胀。这不是简单的线性累积，而是一种超线性放大：上下文越长，单次推理成本越高，经过多轮调用后，总Token消耗就变成了一个不断复利增长的数字。

很多团队把“喂更多上下文”当作提升AI效果的手段，却完全忽略了它带来的成本侵蚀。BCG的应对策略围绕一个关键词：减熵。精准检索优先，大模型兜底是第一条原则。对于制度条款、术语解释这类答案明确且重复度高的问答，优先使用关键词检索知识库直接匹配答案，只有当表述模糊或者需要跨材料综合分析时才调用大模型。简单问题用检索解决，复杂问题才用推理解决，这个分层逻辑在客服和内部知识场景中尤其有效。

预制高频任务的提示词模板，是第二条减熵路径。合同审阅、会议纪要、报告摘要这类高频场景，应该预设清晰的任务目标、必需输入、判断规则和输出格式。这不仅能降低一线员工自由输入带来的冗余上下文，更重要的是通过标准化倒逼任务质量的稳定性。营销团队特别值得借鉴：品牌内容审校、竞品分析摘要、投放素材的初步筛选，都可以通过提示词模板实现质量基线的一致性和成本的可控性。

上下文闸门的设置，是最后一道预防机制。为任务设定明确的上下文长度上限，当接近阈值时自动压缩历史信息，只保留关键结论、重要约束和下一步事项。这个做法把“无限累积”变成了“有界管理”，把成本曲线从失控的指数拉回到可控的线性区间。BCG的案例中，优化检索规则、压缩历史信息、对工具输出过滤与去重，这些上下文管理动作合计节省了约10%的运行成本。这个数字看起来不惊人，但它几乎不需要任何基础设施投入，属于纯粹的工程纪律和管理动作。

四、责任建模：停止为拆而拆的多Agent狂欢

AI智能体架构正在重演微服务架构时代的过度拆分狂热。很多团队从“需要多少个Agent”出发，把一个完整任务拆解成复杂的多智能体协作网络，以为这是在搭建一个精密的分工体系。但每一次Agent之间的交接，都意味着一次额外的上下文传递、一次额外的推理调用和一次额外的失败风险。多Agent网络越复杂，成本越高，可靠性越低，链式责任的归因越模糊。

BCG提出的“责任建模”原则，直指这个误区的核心：先明确业务结果由谁负责，需要完成哪些判断和行动，然后再定义承接该结果的Agent边界以及所需的Skill和Tool。这个思维方式和传统软件设计中的对象建模根本不同。对象建模从功能拆解出发，把一个系统切分成越来越细的模块；责任建模从结果归属出发，先确定“这件事谁来兜底”，再决定“这个责任主体需要什么能力”。

优先单Agent闭环，按需拆分，是这个原则的第一层落地。只有当责任独立、权限隔离或专业判断差异显著时，才应该拆分为多Agent协作。很多情况下，一个设计良好的单Agent，配上多个清晰的Skill，足以完成绝大多数任务。能固化为Skill就不新增Agent，信息查询、格式转换、规则校验、表单填写这些输入输出稳定、流程明确的能力，都应该封装为Skill或Tool，而不是为它们各建一个Agent。

明确技术执行边界与兜底机制，是责任建模的第二层落地。设定最大推理轮次、工具调用次数、重试次数和执行时长，当达到阈值或连续失败时触发回退、终止、降级或人工接管。这个看似技术性的设置，实际是成本管理的最后防线：无数成本失控的Agent系统，最终都表现为“循环调用、无效推理、反复失败”，而这些失控本质上都是因为没有给智能体设定可执行的止损线。BCG案例中，架构设计的优化贡献了约5%的运行成本节约，比例看似不高，但它同时提升了系统的可靠性，降低了隐性的人工介入成本。

五、成本归因：让AI投入进入经营议事的正轨

三大抓手解决的是“怎么省”的问题，但如果没有一套治理机制把成本数据变成管理动作，优化措施很快就会被日常业务的压力冲散。BCG建议企业围绕三个问题建立AI成本管理闭环：钱花在哪里、由谁负责、产生了什么业务价值。这三个问题听上去朴素得近乎老套，但大多数企业的AI成本管理现状恰恰是三个都答不上来。

全链路可观测性是成本归因的技术底座。通过模型网关、链路追踪和评估工具，企业可以在一个统一看板上看到每个AI工作流的成本、调用次数、成功率、缓存命中率和模型使用率。但技术可观测性只是必要条件，不是充分条件。关键AI工作流必须明确业务负责人和成本中心，把技术消耗与业务产出映射起来。没有业务负责人，可观测性就只是一块好看的仪表盘，没有人会对那些数字负责。

运营看板的设计应当围绕决策而非展示。哪些工作流成本最高，产生了什么业务结果？单次成功结果成本是多少，成本归属在哪条业务线？缓存命中率和高性能模型使用率是否合理？这些问题如果只是出现在月报里供人浏览，没有任何威力。它们必须出现在经营例会里，出现在预算评审里，出现在每一个决定“要不要扩AI应用场景”的讨论里。

这里有一个值得中国企业特别警醒的组织现实：AI成本管理不能只靠技术团队自觉。工程师天然追求性能、追求参数的“正确性”，而成本意识则需要管理层用制度和流程硬性注入。当成本归因数据摆在明面上，业务部门才会从“反正有预算”转向“这个场景试跑三个月，单次结果成本降不下来就暂停”。这不是投入收缩，而是把AI从技术试验品变成经营管理对象。

六、营销增长团队如何接住这套方法论

这套从BCG企业咨询框架中生长出来的方法论，对营销和增长团队有非常直接的迁移价值。内容生成、智能客服、投放素材优化、社媒舆情响应，这些高频AI场景的共性特征是调用量大、轻度任务占比高、成本敏感性日益突出。营销团队如果只关注模型产出的内容质量，而对Token消耗的归因、路由和上下文管理毫无概念，最终的结局必然是：内容团队觉得AI很好用，财务部门觉得AI很烧钱，CMO夹在中间无法自证。

具体到落地动作，有几条路径可以立即尝试。第一，把高频轻度任务和低频重度任务分开定义，默认走轻量模型路由。例如品牌社媒评论的温情回复、电商客服的常见问题处理、内部文案的初步改写，都可以用轻量模型完成。只有在策略判断、创意发想、复杂竞品分析等场景才升级到高性能模型。第二，为内容团队沉淀一套标准提示词模板库，不仅写清楚任务目标，更写清楚判断规则和输出格式，减少自由发挥带来的上下文冗余。第三，在Agent和工具链设计上，先问业务结果归谁，再问要不要加Agent。能用Skill封装的内容改写、格式转换、规则校验，就不要新增一个“智能体”。

最有价值的改变，可能是把成本看板带进营销例会。当单次内容产出成本、单次客服处理成本、单次素材生成成本被量化之后，很多原本模糊的ROI争论会立刻变得清晰。哪些场景值得继续投入，哪些场景需要收缩，哪些场景需要对提示词和路由做进一步优化，这些决策将从感觉判断升级为数据判断。对一个CMO来说，能够向CEO展示“AI内容产能翻倍的同时单次成本下降35%”，远比泛泛地讲“我们在拥抱AI”更有说服力。

还需要看到的是，这套方法论和“模型会越来越便宜”的等待主义毫无关系。三大抓手没有一个依赖下一代模型降价，全部是今天的工程设计和管理动作。把每次成功结果的成本降下来，并不单纯是为了省钱，而是为了拓展AI应用的可行性边界。这个数字每降一半，原本一批“算不过来账”的场景就会变得经济可行，企业就能承载更多用户、支撑更长会话、执行更复杂任务。把AI成本管起来，本质上是为了给规模化应用腾出空间。

一个需要记住的认知分水岭在于：过去的软件成本管理是采购问题，未来的AI成本管理是经营能力。采购问题可以交给专门的团队去谈判和比较，经营能力则必须嫁接在业务负责人的日常决策里。那些能够清晰回答“我的AI钱花在哪、产出什么、谁来负责”的企业，将在下一轮AI应用竞赛中，用同样的预算跑出完全不同的业务结果。