调用量从每天几千涨到几十上百万，账单从几十美元变成几万美元，这是很多团队都会撞上的墙。这篇东西写给正在盯着 API 账单发愁的后端和算法同学，目标很直接：在效果不明显打折的前提下，把单位调用成本压下来。
绝大多数请求根本不需要旗舰模型。分类、打标签、信息抽取、格式转换、简单问答，这些走小模型完全够用。真正需要强推理的，可能只占 20%~30%。
做法是把请求打标分级，再在调用层做路由：
路由逻辑写在网关里，业务代码不用改。
输出单价通常是输入的 3~5 倍。很多成本不是问出来的，是模型"话多"说出来的。
三个手段：设 max_tokens 上限；提示词里明确要求"只返回 JSON，不要解释"；用结构化输出替代自然语言描述。把平均输出从 300 token 压到 150，账单直接砍掉三分之一以上。
高频重复问题（FAQ、固定模板、系统提示前缀）走语义缓存或精确匹配缓存，命中率做到 20% 不难。离线任务、数据清洗、评测这类不要求实时性的，走 Batch 接口，主流厂商普遍给 50% 折扣。
聚合服务（OpenRouter、One API 这类）的价值在两点：一个 key 调多家模型，横向比价；某个厂商涨价或限流时，改个配置就切走，不用动业务代码。代价是多一层网络跳转和少量加价，但对中小团队来说，省下的人力远比这点加价值。
场景：客服问答，每天 100 万次调用，平均输入 800 token、输出 300 token。价格按公开定价量级估算，实际以官方为准。
全量走旗舰模型（输入 $2.5/M，输出 $10/M）： - 输入 800M × $2.5 = $2000 - 输出 300M × $10 = $3000 - $5000/天，约 $15 万/月
分级后（70% 走小模型 $0.15/$0.60，30% 走旗舰）： - 小模型：560M×$0.15 + 210M×$0.60 = $84 + $126 = $210 - 旗舰：240M×$2.5 + 90M×$10 = $600 + $900 = $1500 - $1710/天，约 $5.1 万/月
降幅约 66%。再叠加 20% 缓存命中和输出压缩，还能往下走一截。
把模型分级、输出收紧、缓存批量用上，成本能降一半以上，效果几乎不掉——API 调用量大了，拼的不是模型多强，是每 token 花得值不值。
如果你也想试试一个Key调多个模型的方便，可以看看充站——¥50起步，额度永久有效，用支付宝/微信就能付款。