这个攻略给自掏腰包写 side project、做小工具、跑实验的个人开发者看。调用 API 本身没什么门槛,难受的是月底看账单那一下。下面这几招不高级,但能把成本压到原来的十分之一左右,效果基本不掉。
一、按任务分层选模型,别让大模型干小活
大部分请求其实不需要最强的模型。分类、打标签、格式转换、简单摘要,用最便宜那档就够了;真正要推理和长文理解的请求,通常只占 5%。写个路由函数按任务类型分流,成本立刻降一个数量级。
二、把 max_tokens 和上下文管住
不设 max_tokens 是最常见的漏钱方式,模型可能洋洋洒洒写一大段,而输出 token 通常比输入贵好几倍。另一个坑是每次请求都塞完整历史对话,上下文越滚越长,费用跟着涨。做法很简单:只保留最近 N 轮,或者对早期对话做一次摘要再带上。
三、缓存、免费额度、批处理,能用就用
相同或相似的请求加一层本地缓存,开发调试阶段尤其管用——反复调试同一个 prompt 不该反复付费。新项目先用免费额度把流程跑通,Gemini 免费层、Groq、Cloudflare Workers AI 都有可用额度,验证完需求再掏钱。离线批量任务走 Batch API,主流厂商普遍五折。还有个容易忽略的点:重试要加退避和次数上限,一个 while 循环里疯狂重试,账单会很难看。
四、额度监控和熔断
控制台设预算告警只是第一步,更稳的是代码里自己记数:
再给日消费加个阈值,防止某个 bug 挂一晚上烧掉一个月额度。
具体数据:一个小工具日请求约 3000 次,原来全走 gpt-4o,月账单约 $40。改成 90% 走 mini、5% 走中档、5% 走旗舰,加上历史裁剪和缓存,月账单降到 $5 左右,用户侧几乎感知不到差别。
说到底,省钱的关键不是找最便宜的模型,而是让每个请求只花它该花的钱。
如果你也想试试一个Key调多个模型的方便,可以看看充站——¥50起步,额度永久有效,用支付宝/微信就能付款。