把 AI 成本压下来

控制成本的前提是知道钱花在哪里。大模型按 token 计费，输入和输出分开算，失败重试、重复前缀和过长的输出都会把账单推高。先定位主要开销，再选手段，比一上来就换便宜模型有效。

这个专题包含什么

专题分三层。计价基础讲 token、最大输出与吞吐：它们分别决定单次请求的计量方式、输出的上限和单位时间能处理多少任务。省钱手段讲批处理、上下文缓存、缓存命中率与成本估算：批处理适合不急着要结果的任务，缓存适合前缀稳定的重复请求，命中率用来验证缓存是否真的生效。限额与重试讲限流和退避：被限流不等于失败，但无节制重试会放大开销。预算要按任务而不是按模型来分：同一模型下，长输入、长输出和失败重试的花费可以差很多。专题不列具体价格，也不承诺折扣；价格与额度以官方定价页和账户实际账单为准。

学习顺序

先读 token，理解输入、输出与多轮历史都会被计量。再读最大输出，知道给输出设上限既控制成本，也影响回答完整度。第三步跟课做一次成本估算，拿自己的真实请求跑一遍，得到可复算的基线。之后再看批处理与上下文缓存：前者改变任务的等待方式，后者改变重复前缀的计费方式；两者都能省钱，但适用场景不同。理解缓存命中率是为了防止「开了缓存却没命中」。最后读限流与重试退避，把失败请求的成本也算进预算，否则账永远对不上。做估算时把重试与失败也算进去，否则得到的只是顺利路径的成本。

全部相关词条

计价基础组：token、最大输出、吞吐。省钱手段组：批量接口、上下文缓存、缓存命中率、成本估算课。限额与重试组：限流、重试与退避。建议按组推进：先把计量单位搞清楚，再谈优化；省钱手段有优先级：先删掉不必要的输入，再谈批处理与缓存；前者不依赖任何服务特性。连一次请求花了多少 token 都不知道时，换任何方案都只是猜。账单异常时，先按请求维度拆，再按时间段拆。