• 开源的 LLM 应用编排平台
  • 通过 OpenAI 兼容模型接入 OAIRoute
  • 可以在工作流里混用多家模型

第一步:获取 API Key

在 OAIRoute 控制台 创建。

第二步:添加模型供应商

进入 Dify,点右上角头像 → 设置 → 模型供应商,找到 OpenAI-API-compatible,点 添加模型:

string必填

选 LLM(要接 embedding 时另建一条,类型选 Text Embedding)。

string必填

填模型 ID,例如 gpt-4o-mini。这个名字会显示在 Dify 的模型下拉里,可以和真实 ID 不同,但建议保持一致。

string必填

你的 OAIRoute Key。

string必填

https://api.oairoute.com/v1

integer必填

填该模型的真实上限,例如 128000。

integer必填

单次请求允许的最大输出 token 数,例如 4096。

boolean可选

仅多模态模型需要开启。

boolean可选

工作流里要用「工具」节点时必须开启。

点 保存,Dify 会做一次连通性测试,通过后该模型即可用。

第三步:在工作流中使用

新建应用 → 选「工作流」或「聊天助手」,在模型下拉里选中刚添加的模型。也可以在一个应用里配置「模型回退」,主模型失败时自动切到备用。

常见问题

保存时提示 Authorization failed

API Key 有误,或 endpoint 少了 /v1。

模型下拉里看不到

保存后需要刷新页面。如果仍然没有,检查「模型类型」是否选错。

工作流执行报 context length exceeded

「模型上下文长度」填大了。改成模型真实值,或者在工作流里加一个文本截断节点。

Dify 会对同一段提示词做自己的 token 估算,与上游实际计数可能有偏差。接近上限时建议留出 10% 余量。