:::note 本功能仅私有化版本支持,公有云版本暂不提供。 :::

自定义模型用于统一管理平台可用的模型供应商和模型配置。平台管理员可以在这里接入不同类型的模型供应商,并为语言、OCR、视觉和向量等场景配置对应模型。

进入方式

平台管理员进入开发平台,在“平台权限”后面的“自定义模型”菜单中进行配置。

自定义模型列表

支持的模型类型

当前支持以下模型类型:

  • 语言模型
  • OCR 模型
  • 多模态视觉模型
  • 向量模型

不同类型的模型用于不同场景:

  • 语言模型用于对话、生成和推理。
  • OCR 模型用于图片文字识别。
  • 多模态视觉模型用于图像理解、图文问答和视觉分析。
  • 向量模型用于知识库嵌入和检索。

主要内容

页面支持管理以下内容:

  • 新增供应商
  • 供应商模型设置
  • 系统默认模型
  • 模型校验

列表中可以查看供应商编码、供应商名称、排序值、说明、状态和创建时间,并执行修改、模型设置、校验和删除操作。

1. 新增供应商

在新增供应商时,需要填写供应商编码、供应商名称、排序值、说明、apiUrl、apiKey 获取地址和 api 帮助文档地址等信息。

还可以按需补充图标和额外配置。

新增供应商

保存前建议先确认以下内容:

  • apiUrl 是否可访问。
  • apiKey 是否正确。
  • 额外配置是否符合当前供应商的参数要求。

供应商保存后,也可以在修改页面继续维护接入地址、密钥获取地址、帮助文档地址和额外配置。

修改供应商

2. 供应商模型设置

每个供应商都可以单独维护模型列表。你可以按模型类型新增不同模型,并为模型填写模型 ID、模型名称、排序值等信息。

供应商模型列表

新增模型时,系统会按模型类型展示对应的配置项。常见配置包括:

  • 上下文长度
  • 工具调用
  • 思维链
  • 额外模型配置

不同模型类型支持的参数会有所区别,页面会按当前模型类型展示可配置项。

新增模型

3. 系统默认模型

页面支持设置系统默认模型和向量默认模型。

系统默认模型设置

  • 系统默认模型用于平台中的通用生成场景,例如对话、文案生成和内容整理。
  • 向量默认模型用于知识库等向量化处理场景。

设置默认模型后,系统会优先使用当前默认配置完成对应场景的模型调用。

4. 模型校验

供应商保存后,可以通过校验确认当前模型是否可正常使用。

建议重点检查:

  • 供应商是否已启用。
  • 模型类型是否选对。
  • 模型 ID 是否正确。
  • apiUrl 和 apiKey 是否可用。

使用建议

  • 先接入供应商,再配置模型,最后设置默认模型。
  • 如果不同业务场景要用不同模型,建议分别维护语言、OCR、视觉和向量模型。
  • 修改默认模型前,建议先确认对应业务场景是否会受影响。

results matching ""

    No results matching ""