uuos
// 产品 · LLM 网关

工作流里写档位,不写模型名

把「用哪个模型」从工作流配置里解耦出来:节点只声明 fast / balanced / quality 档位,模型目录负责路由到具体提供商。换模型、调价、故障切换,都不需要动任何一个工作流。

档位路由

别名适用场景示例模型
fast低延迟场景:分类、抽取、路由判断Claude Haiku · GPT-4o-mini
balanced平衡质量与速度:对话、摘要、生成Claude Sonnet · GPT-4o
quality最高质量输出:复杂推理、长文写作Claude Opus

每个别名可配置多个候选,Gateway 按优先级自动故障转移。

候选故障转移

提供商故障或超时,同档位的下一个候选自动接管。一家模型服务抖动,你的生产工作流不跟着抖。

限流与重试内建

令牌桶限流(容量与补充速率可配)平滑突发流量;指数退避重试只在未产生可见输出时触发,用户永远不会看到重复内容。

开发模式零依赖

内置 Mock Provider:不配任何 API Key 也能完整跑通编排、运行、流式输出,CI 和本地开发不烧真钱。

BYOK(Enterprise)

Enterprise 计划支持自带模型密钥与自定义提供商接入,配合私有化部署,模型流量不出你的边界。

继续了解产品能力
// 开始构建

下一个上线的 Agent,从一块空画布开始

Free 计划包含每月 100 次运行与 500K token,足够把完整流程跑通。无需信用卡。