你花了一下午折腾本地模型,好不容易跑起来了,结果发现ChatBox默认只认OpenAI的接口。想用上本地部署的Llama或者便宜好用的第三方模型,却不知道在哪改地址——别慌,这事儿其实特别简单,只需要改四个地方就能通。
先梳理一下你手头需要的东西:
- 一个第三方API的Key(比如Groq、OpenRouter、Together AI或者你自己的vLLM服务)
- 该服务的API基础地址(Base URL),通常是 https://api.xxx.com/v1 这种格式
- 一个你想用的模型名字,例如 llama-3.1-70b-versatile
注意:大部分第三方服务兼容OpenAI的接口格式,所以ChatBox可以直接接入。如果你用的是非标准协议(比如Claude直接调用),可能需要额外配置反向代理,但今天聊的都是标准接口。
1. 拿到Key并填入设置
打开ChatBox的设置界面(macOS在菜单栏 - Preferences,Windows在File - Settings)。找到“模型提供方”或“API Provider”,选择“自定义API”(Custom API)。把Key粘贴到对应的API Key输入框。注意别漏掉前后的空格,有些服务要求Key带 Bearer 前缀,但ChatBox一般会自动处理。
2. 修改API地址
在同一个设置页面,找到“API地址”或“Base URL”字段。把默认的 https://api.openai.com/v1 替换成你第三方服务的地址。举个例子,如果用Groq:
`
https://api.groq.com/openai/v1
`
如果用OpenRouter:
`
https://openrouter.ai/api/v1
`
地址后面不要加斜杠,ChatBox会自动拼接路径。如果你用的是本地服务(比如Ollama + LiteLLM),地址可能是 http://localhost:8000/v1。
3. 选择模型名称
地址填好后,回到聊天界面。在模型下拉菜单里,默认可能只显示“gpt-3.5-turbo”。点一下它,输入你实际要用的模型名。注意大小写和连字符必须和服务文档完全一致。比如Groq上的 llama-3.1-70b-versatile 就得一字不差地写进去。有些服务不支持下拉直接选,手动打字就可以。
4. 开始对话
选好模型后,随便发条消息试试。如果返回错误,八成是Key没有访问权限、模型名不对或者地址写错了。可以查看ChatBox底部的日志(点击右下角小齿轮 - 显示日志),里面会打印出实际请求的URL和错误信息。常见问题:地址末尾少了/v1,或者模型名多了空格。
整个配置的核心就三个变量:Key、地址、模型名。多数失败都出在地址格式不标准——记住末尾必须是 /v1(除非服务明确说明不用)。另外,建议第一次测试选一个免费或极低成本的模型(比如Groq的 mixtral-8x7b),避免误触收费。最后,不要把Key写死在公开的代码或截图里,ChatBox本地的配置是加密存储的,但分享屏幕时记得遮挡。
如果你也想试试一个Key调多个模型的方便,可以看看充站——¥50起步,额度永久有效,用支付宝/微信就能付款。