这篇攻略写给手头预算有限、自己搞项目的个人开发者。你大概率遇到这几个问题:大模型API按token计费,动不动就烧钱;模型那么多,选哪个既够用又便宜;免费额度看似多,实际不经花。别急,下面几个方法能帮你把成本压下去。
别一上来就上GPT-4。日常聊天、简单翻译、代码补全这些任务,用GPT-3.5-Turbo或者Claude Haiku就够了。拿OpenAI定价看:GPT-4o输入5美元/百万token,输出15美元;GPT-3.5-Turbo输入0.5美元,输出1.5美元,差10倍。国内智谱GLM-4-Flash更便宜,输入0.1元/百万token,输出0.1元。如果做批量翻译或摘要,用这些轻量模型,每月能省下几十美元。复杂任务比如论文分析、逻辑推理,再上GPT-4或Claude Sonnet,但调用频率控制在10%以内。
大多数人都没好好设置max_tokens。默认值往往是模型最大上限,比如4096,但你的实际回复可能只用了200 token。浪费的部分照样计费。在API调用里显式指定这个参数:
`python
response = client.chat.completions.create(
model="gpt-3.5-turbo",
messages=[{"role": "user", "content": "翻译:Hello world"}],
max_tokens=50 # 明确限制
)
`
另外,尽量精简prompt。系统提示里每种叮嘱、每个例子都在烧你的钱。可以尝试把多轮对话的历史摘要成一句话传进去,或者用缓存机制(如OpenAI的上下文缓存)命中重复请求。还有一招:用流式输出,边接收边判断,一旦内容符合预期就中断请求,避免模型硬憋到max_tokens。
几乎所有主流厂商都给新人送免费额度。OpenAI注册送5美元(有时是18美元,看活动),Claude送5美元,智谱送200万token。但注意有效期:OpenAI的3个月,Claude的好像是1年。建议你注册多个账号,分阶段用。比如先消耗一个号的免费额,用完前20天再换另一个。另外,在API控制面板里设好月度预算提醒(比如10美元发邮件),别等账单来了才傻眼。有些服务(如Azure OpenAI)还支持预付费买更低的单价,但你得估算好用量,别买多了浪费。
假设你做了一个翻译小工具,每天处理2000次请求,平均每次输入100 token、输出50 token。用GPT-3.5-Turbo:每天消耗2000×(100+50)×2(输入输出分开算)≈0.3百万token,按0.5+1.5=2美元/百万token,每天0.6美元,每月18美元。要是用GPT-4o,同场景每天约3.75美元,每月112美元,差6倍。换成智谱GLM-4-Flash,每月成本不到1美元。选对模型就能把支出打下来。另外,如果你用OpenAI,可以开启”已补全“模式(completions)而不是对话模式,有时更便宜,但功能受限。
选对模型、精简调用、管好免费额度,个人开发者完全可以把大模型API的月费控制在10美元以内,甚至零成本。
如果你也想试试一个Key调多个模型的方便,可以看看充站——¥50起步,额度永久有效,用支付宝/微信就能付款。