📢 公告欢迎来到Token世界！每个收录的token网站都是人工验证过的，请放心使用。

← 返回首页 / 🔀 聚合中转 / 📡 网关观测

R ✔ 已验

RouteLLM

github.com

LMSYS 开源路由框架，按难度把请求分给强模型或弱模型，省一半成本

标签 RouteLLM 路由降本开源

所属分类📡 网关观测

所属地区美国

累计访问0

收录时间2026-11

有效期永久有效

可用状态正常

🚀 访问 🚩 反馈

相关推荐

A✔ 已验Apache ShenYu国产响应式 API 网关，支持多协议代理与插件化限流，社区活跃中国大陆详情

S✔ 已验Semantic Router基于向量语义的路由库，把用户意图快速分到对应模型或工具链美国详情

D✔ 已验Datadog LLM 可观测把模型调用纳入既有监控体系，追踪延迟、成本与错误率美国详情

K✔ 已验Keywords AILLM 运维平台，带网关、日志、评估与告警，适合快速上线产品美国详情

B✔ 已验BraintrustAI 产品评测与实验平台，数据集回放、打分与线上监控一体化美国详情

T✔ 已验Traefik云原生反向代理，可给模型服务做负载均衡、灰度与熔断FR详情