跳转到主要内容

什么是提供商

平台上的每个模型可能由多个提供商支持。提供商是按来源和成本划分的服务节点,不同提供商的价格倍率和可用模型各有不同。 发送请求时,系统会根据你的令牌配置,从可用提供商中自动选择一个处理请求。如果某个提供商出现故障或超时,系统会自动重试其他提供商,整个过程对你的代码透明无感。

当前可用提供商

关于 official

official 是一个提供商组,它将 OpenAI、Anthropic、Google、DeepSeek 等主流官方平台的节点统一归类在一起。选择 official 时,系统会在所有官方节点中进行智能路由和故障转移,无需单独指定每个厂商。

如何选择


在令牌中配置提供商

在创建或编辑令牌时,可以配置该令牌的默认路由行为。

提供商列表

指定令牌允许使用的提供商范围。
  • 留空(推荐):自动从所有可用提供商中路由,获得最佳可用性
  • 填写单个提供商:如 official,仅在官方节点中路由
  • 填写多个提供商:逗号分隔,如 official_cheap,mix,按顺序或排序策略依次尝试

仅限指定提供商

  • 关闭(默认):指定提供商优先,失败后自动回退到其他可用提供商
  • 开启:严格限定在指定范围内,不进行任何回退,全部失败则返回错误

指定提供商排序

填写多个提供商时,控制尝试顺序:
  • 手动(默认):按填写顺序依次尝试
  • 延迟:优先尝试响应速度最快的
  • 价格:优先尝试价格最低的
  • 吞吐量:优先尝试吞吐量最高的

请求时通过 Header 指定

也可以在每次请求时通过 Header 临时覆盖令牌设置,只对当次请求生效。
通过 Header 指定的提供商受账号权限限制,无法访问没有权限的提供商。

示例

优先走官方优惠,失败后回退到混合
严格只走官方,不允许任何回退
在 SDK 中设置默认 Header