AI API 成本优化不是等账单超支后才开始做。只要在 prompt、模型选择、缓存、批处理和监控上建立基本规则，大多数项目都能明显降低月度费用。
1. 缩短上下文
每次请求带入的上下文越长，输入成本越高。定期检查系统提示词、历史对话和检索片段，删除对当前任务没有帮助的内容。
2. 控制输出长度
输出 token 通常比输入 token 更贵。可以通过明确格式、限制段落数、使用 JSON schema 或要求简短回答来减少输出长度。
3. 使用缓存
如果供应商支持 prompt caching，把固定系统提示词、工具说明和长模板放入可缓存部分。缓存命中率越高，重复请求成本越低；具体估算方法可以参考 提示词缓存能省多少？ 和 缓存命中率如何影响 AI API 成本。
4. 模型分层
不要让所有请求都使用最贵模型。分类、格式整理、短摘要可以用低成本模型；复杂推理、代码和高价值请求再使用高能力模型。模型分层前可以先查看 模型价格表，再结合 低成本 AI 模型选择 的评估方法。
5. 批处理离线任务
不需要实时返回的任务可以批处理。批处理更容易控制请求频率，也方便使用更便宜的模型或异步队列。
6. 设置限流和配额
为用户、团队、功能和环境设置配额。测试环境尤其需要限制，避免调试脚本或循环任务产生大量无效调用。
7. 监控异常请求
至少监控单次请求 token 超限、单用户高频调用、失败重试次数、输出长度异常和某个功能成本突然上升。
发现异常后，先定位具体场景，再决定是否调整模型或 prompt。
总结
降低 AI API 成本的核心是减少无效 token、减少无效重试，并把高能力模型用在真正需要的地方。成本优化应该成为上线后的持续流程，而不是一次性动作。