这篇写给正在做AI编程助手、卡在模型选型上的人。行内补全、代码问答、PR review bot、自动修 bug 的 agent,这四种东西对模型的要求完全是两码事。所以没有"最合适的模型",只有"这个位置放哪个最划算"。
行内补全:用户敲代码时等你出 token,首字延迟超过 300ms 体验就崩了。这个位置只能用 7B~30B 的小模型或者专门做 FIM 补全的模型,任何 reasoning 模型都别考虑,它的思维链还没想完,用户手已经打完下一行了。
对话式问答、重构、解释报错:单轮请求,输出几百到几千 token,用户能接受等两三秒。这是 reasoning 模型的主场。
Agent 多步任务:读仓库、改文件、跑测试、看结果再改。要求长上下文、稳定的 function calling、可控的单步成本。建议混合:规划用推理模型,执行用便宜的快模型。
它强在"看多步"。把报错栈、相关文件片段、最近一次 diff 一起丢进去,让它找根因,比同价位非推理模型准一截,尤其是那种错误位置和错误来源隔了三层调用的隐蔽 bug。重构、写数据迁移脚本、解释复杂 SQL 也稳。
弱的地方同样明确:思维链意味着输出 token 通常是普通模型的 3~5 倍,首 token 延迟经常到几秒;早期版本不支持 function calling,做 agent 得自己在外面包一层工具调度。所以它是"顾问",不是"手"——适合被调用去思考,不适合被调用去高频响应。
resp = client.chat.completions.create(
model="deepseek-reasoner",
messages=[
{"role": "system", "content": "你是代码审查助手,只输出结论和修改建议。"},
{"role": "user", "content": f"报错:{traceback}\n代码:{snippet}"},
],
)
print(resp.choices[0].message.content)
`
注意 reasoner 不吃 temperature 这类采样参数,别传,传了也是白传,还可能报错。
拿一个 bug 定位接口举例:输入约 3000 token(报错栈 + 两个文件片段),输出约 4000 token(其中大半是思维链)。按 deepseek-reasoner 输入 ¥4/百万、输出 ¥16/百万算,单次约 0.076 元,七分钱。一天一万次请求,七百多块。
同样的活儿用海外头部推理模型,输出单价普遍是它的五倍以上,单次成本直接奔四五毛。系统提示和项目规范固定的话走缓存命中,输入还能再压一档。所以性价比结论很简单:**高频、低延迟的位置用便宜小
如果你也想试试一个Key调多个模型的方便,可以看看充站——¥50起步,额度永久有效,用支付宝/微信就能付款。