跳到主要内容

配置模型API密钥

RAGFlow需要一个API密钥来与在线AI模型进行交互。本指南提供了在RAGFlow中设置模型API密钥的相关信息。

获取模型API密钥​

RAGFlow支持大多数主流的大型语言模型（LLM）。请参考受支持的模型以获取完整的受支持模型列表。您需要在线申请您的模型API密钥。请注意，大多数LLM提供商会给新创建的账户提供试用额度，在几个月内有效或有一定的免费配额。

备注

如果您发现您的在线LLM不在列表中，请不要气馁。这个列表正在不断扩展，并且您可以向我们提交功能请求！另外，如果您有自定义或本地部署的模型，您可以使用Ollama、Xinference或LocalAI将其绑定到RAGFlow。

配置模型API密钥​

您可以通过以下两种方式配置您的模型API密钥：

  • 在启动RAGFlow之前在service_conf.yaml.template中进行配置
  • 登录RAGFlow后在**Model providers（模型提供商）**页面上进行配置

在启动RAGFlow前配置模型API密钥​

  1. 导航到 ./docker/ragflow
  2. 查找条目user_default_llm：
    • 使用您选择的LLM更新factory
    • 更新您的 api_key
    • 如果使用代理连接远程服务，请更新 base_url
  3. 重启系统以使更改生效
  4. 登录RAGFlow
    登录后，您将在 Model providers（模型提供商） 页面的 Added models（已添加的模型） 下找到您的选择

在登录RAGFlow之后配置模型API密钥​

警告

在登录RAGFlow之后，通过service_conf.yaml.template文件配置模型API密钥将不再生效。

登录RAGFlow后，您只能在 Model providers（模型提供商） 页面上配置 API Key：

  1. 点击页面右上方的您的头像 > Model providers（模型提供商）
  2. 在待添加的模型下找到您的模型卡片并点击添加模型： add model
  3. 粘贴您的模型API密钥。
  4. 如果使用代理连接远程服务，请填写基础URL。
  5. 单击确认以保存更改。
备注

要更新现有的模型API密钥： update api key