Skip to main content

模型管理

版本要求: 标准版及以上

💻 功能入口

1. 功能简介

模型管理菜单呈现了LinkAI所支持的数十款主流旗舰级大模型。标准版及以上用户可创建自定义模型,基于主流模型厂商,直接配置自有API key,或创建其他第三方厂商并配置模型,以支持用户使用自己的模型服务。

2. 使用说明

2.1 基本概念

厂商:模型管理中的“厂商”指发布大模型的企业品牌,例如deepseek-r1\deepseek-v3模型的厂商即:杭州深度求索人工智能基础技术研究有限公司,简称“深度求索”。
平台已预置主流的模型厂商,用户在创建自定义模型时,可选择对应的模型厂商,直接配置自己的API key;如预置模型厂商未覆盖需求,用户可创建自定义的模型厂商(需支持通过API调用,并符合OpenAI接口标准格式),并配置API key,再创建对应的模型。

模型:即我们日常使用的大模型名称,一般由模型系列+模型型号组成,例如doubao-pro-128k。内置模型的名称原则上和厂商官方命名保持一致。每个模型都归属于指定厂商。

内置模型:LinkAI平台提供的大模型服务,可(在应用或工作流中)直接使用,根据用量按照积分计费

自定义模型:允许标准版及以上用户创建自己的模型,这些模型可以是市面上主流的大模型,但使用的是用户自己的API key;也可以是用户自行训练和部署的本地模型(需支持通过API调用,并符合OpenAI标准接口格式)。模型需基于厂商创建。

2.2 创建模型

在创建模型时,需先选择模型厂商。如要创建的模型隶属于预置的主流厂商,可直接选择:



  • 厂商配置: 首次选择未配置的厂商时,需先配置该厂商的API key(平台已预置主流模型厂商及API地址):


  • 创建厂商: 用户也可创建自定义的模型厂商,填写API URL和API Key,支持符合OpenAI接口标准格式的第三方模型供应商:


  • 模型新增: 完成厂商配置或创建后,可填写模型信息,包括 模型名称 model参数 模型分类 模型描述 最大上下文 默认上下文是否支持思考过程(模型分类选择推理模型时),其中model参数为模型厂商接口中进行模型指定的字段,务必填写正确:


  • 模型编辑: 在编辑模型信息时,可修改模型名称 模型分类 模型描述 最大上下文 默认上下文是否支持思考过程,不可修改模型厂商model参数


2.3 查看模型

创建后的自定义模型,可在模型管理列表进行查看、筛选和编辑:



2.4 使用模型

所有模型(包括内置模型和自定义模型)可直接在应用或工作流中选择:

  • 应用配置



  • 工作流-大模型节点


  • API调用:模型列表中的所有模型均可通过 开放API 进行调用,model参数需要与模型卡片中的编码字段保持一致。


info

注意对于自定义模型,为了区分与内置模型的编码,系统会在填写的model参数后添加唯一标识,在API使用时需要使用卡片中呈现的实际编码作为model字段进行调用。