LLM Router - 边缘智能路由控制台

总渠道数

0

健康就绪

0

熔断冷却中 (429)

0

持久存储模式

Supabase / Memory

已配置服务商渠道

支持按同模型优先级分层与组内权重轮询，自动 429 熔断与多账号故障转移

渠道名称	提供商	Base URL	已配模型	优先级	权重	状态	操作
正在加载渠道列表...

防火墙分流策略流水线 (Firewall Strategy Pipeline)

自顶向下严格匹配 (Top-Down First-Match)

请求接入后自顶向下逐条评估：Rule 确定性规则 (#1~#6) 优先拦截或委托 $ ightarrow$ 委托请求进入 Topic 语义意图分类 $ ightarrow$ 置信度不足或渠道全部熔断进入 Fallback 兜底降级。

顺序	策略层级	策略/规则名称	匹配条件 (Condition)	动作与目标模型 (Action & Target)	门限 / 选项	状态	操作
正在构建防火墙策略流水线...

全局兜底保障 (Global Fallback Guarantee)

当任何首选物理模型因限流(429)或无可用上游时，自动沿备选模型链降级

备选降级链:

Topic 语义主题分类库 (Topic Catalog)

支持任意自定义主题与种子问句

可按业务领域（如金融、医疗、法律、编程等）自由增删改主题。配置代表性语义种子问句（Sample Anchors），Workers AI 向量模型将据此进行余弦意图识别分流。

正在加载 Topic 主题分类库...

分流仿真器 (Match Tracer)

模拟请求经过防火墙流水线的逐条判定过程

测试请求模型 (model):

测试自然语言 Prompt (messages):

在左侧输入 Prompt 与模型并点击执行，实时观察防火墙逐条流转匹配轨迹

OpenAI 标准客户端接入规范

LLM Router 100% 兼容 OpenAI Chat Completions 协议。你可以直接将任何支持自定义 BaseURL 的客户端（如 NextChat、LobeChat、Cursor、Claude Code、Python/Node SDK）的端点替换为本网关地址。

统一 API Base URL

cURL 调用示例 (自动 Topic 路由)

curl -X POST "https://your-router.workers.dev/v1/chat/completions" \
  -H "Authorization: Bearer YOUR_MASTER_TOKEN" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "auto",
    "messages": [{"role": "user", "content": "请用 Python 编写一段异步 HTTP 抓取脚本"}],
    "stream": true
  }'

已配置服务商渠道

防火墙分流策略流水线 (Firewall Strategy Pipeline)

全局兜底保障 (Global Fallback Guarantee)

Topic 语义主题分类库 (Topic Catalog)

分流仿真器 (Match Tracer)

OpenAI 标准客户端接入规范

添加上游渠道

配置分流规则

配置 Topic 语义主题