档位路由
| 别名 | 适用场景 | 示例模型 |
|---|---|---|
| fast | 低延迟场景:分类、抽取、路由判断 | Claude Haiku · GPT-4o-mini |
| balanced | 平衡质量与速度:对话、摘要、生成 | Claude Sonnet · GPT-4o |
| quality | 最高质量输出:复杂推理、长文写作 | Claude Opus |
每个别名可配置多个候选,Gateway 按优先级自动故障转移。
候选故障转移
提供商故障或超时,同档位的下一个候选自动接管。一家模型服务抖动,你的生产工作流不跟着抖。
限流与重试内建
令牌桶限流(容量与补充速率可配)平滑突发流量;指数退避重试只在未产生可见输出时触发,用户永远不会看到重复内容。
开发模式零依赖
内置 Mock Provider:不配任何 API Key 也能完整跑通编排、运行、流式输出,CI 和本地开发不烧真钱。
BYOK(Enterprise)
Enterprise 计划支持自带模型密钥与自定义提供商接入,配合私有化部署,模型流量不出你的边界。
继续了解产品能力