4. 配置模型供应商

返回概览 · 完整版目录 · 下载完整 PDF

模型供应商记录平台如何连接一个上游模型端点：供应商类型、请求地址、模型请求格式、调用凭据（账号）和启用的模型。模型服务只能从已启用的供应商模型中选择模型，因此供应商是模型接入的第一步。

入口：「管理控制台 → 搭建 → 模型供应商」。页面顶部有三个页签：「模型供应商」（供应商列表）、「模型&定价」（全部模型的售价，见第 5 章「模型定价与分类」）、「分类管理」（模型分类）。

前提：以租户管理员或「系统管理员」角色登录。不具备权限时，「添加模型供应商」按钮置灰并提示“需要供应商管理权限才能添加模型供应商”。本章功能属于基础功能许可。

API 密钥等凭据只在页面的凭据字段中填写，不要写入工单、文档或截图。

4.1 新建并验证供应商

1. 在「模型供应商」页签选择「添加模型供应商」，进入添加页面。
2. 填写「模型供应商名称」（例如“DeepSeek 服务”）和「描述信息（可选）」。
3. 在「供应商」中搜索并选择供应商类型。内置目录覆盖国内外主流云厂商、聚合平台和本地推理服务，共两百多个类型；目录中没有的 OpenAI 兼容端点可选择「本地 OpenAI 兼容服务」后改写请求地址。选中后，「请求地址」自动填入该类型的默认地址，可按实际端点修改。
4. 核对「模型请求格式」。可选 OpenAI Chat Completions、OpenAI Responses、Anthropic Messages、Gemini generateContent 四种，默认取所选供应商类型的内置格式，没有内置格式时为 OpenAI Chat Completions。该格式决定网关以何种协议请求上游，调用方仍可用任一入站协议调用，协议转换见第 10.3 节。
5. 按需设置「推理内容返回」（默认「自动适配（推荐）」，另有「仅在 content 中返回」「单独返回 reasoning 内容」）和「网络范围」（未分类、内网、公网）。
6. 填写凭据。多数供应商类型提供两种方式：
   • 「API 密钥」：在「首个账号 API 密钥」中每行填写一把 Key，每把 Key 会创建为一个账号；
   • 「订阅账号」：保存后跳转到「账号」页签完成订阅登录，见第 4.5 节。 不需要凭据的本地推理服务不显示凭据区。
7. 选择「验证并获取可用模型」（右侧工具栏的「测试连接」作用相同）。该操作只探测连接，不保存。成功后右侧列出端点返回的模型；端点不返回模型列表时，在输入框中手动输入模型名并回车添加。
8. 在模型表中用「启用」开关选择需要的模型，可用「全部启用」「全部禁用」批量操作。至少启用一个模型。
9. 如需调整超时与重试，展开「高级」区域，见第 4.4 节。
10. 选择「保存模型供应商」。

保存即生效，不经过草稿审批。保存时平台会对请求地址做一次准入探测：探测失败时页脚出现错误提示，确认端点配置无误后可选择「仍要保存」；地址未通过出站安全校验或配置冲突时不能保存。提示“已保存，模型路由稍后同步”表示配置已写入，网关节点会在稍后同步。

验证结果：返回列表，确认该供应商的「可用」开关为开启，「可用模型」列显示已启用的模型，「健康」列在下一轮探查后出现结果。

4.2 可用性探查与连接排查

平台按供应商的「健康检查策略」周期探查供应商可用性，默认每 300 秒一次。探查结果显示在：

• 列表的「健康」列：最近一小时的可用性，每五分钟一个采样点；
• 列表的「耗时」列：延迟徽标，小于 300 毫秒为绿色，300～500 毫秒为黄色，超过 500 毫秒为红色，失败显示“不可用”；
• 供应商详情的「可用性探查」页签：探查历史，列为「时间」「结果」「探活后健康状态」「延迟」「失败原因」。

需要立即确认连接时，在「可用性探查」页签选择「连通性测试」。成功显示“连接正常，延迟 N 毫秒”；失败显示失败原因，例如“密钥无效或已过期”“没有访问权限”“请求太频繁，被供应商限流”“供应商额度已用完”“接口地址未通过安全校验”“网络连不上供应商”“供应商响应超时”。带上游状态码的原因会附注状态码。

连接失败时按以下顺序检查，避免同时改动多项配置：

1. 「请求地址」是否包含供应商要求的协议、域名和路径；
2. 账号的 API 密钥是否有效、是否有目标模型的权限，在「账号」页签查看账号状态；
3. 网关节点能否访问该端点，是否需要由平台管理员为节点配置出口策略（第 23 章）；
4. 「模型请求格式」是否与端点实际协议一致；
5. 仍失败时，记录发生时间、供应商名称和页面提示，不要记录或发送 API 密钥。

4.3 配置完成标准

同时满足以下三项，供应商才算配置完成：

• 连通性测试成功，「健康」列显示可用；
• 至少启用一个模型，并已为需要计费的模型设置售价（第 5 章「模型定价与分类」）；
• 「账号」页签至少有一个状态为“正常”的账号，页面顶部没有“账号全部不可用”提示。

只保存名称和凭据不能保证成员可以调用。成员调用还需要模型服务包含该模型，并且成员在模型服务的可用范围内（第 6、7 章）。

4.4 编辑供应商与运行参数

在供应商列表点击名称进入详情，页签依次为「基本信息」「账号」「模型定价」「上游真实性」「可用性探查」「性能测试」「操作审计」。

修改配置：在详情页选择「编辑 AI 供应商」，可修改名称、描述、「AI 平台」、「请求地址」、网络范围和模型选择。凭据不在此处修改，统一在「账号」页签维护。模型发现只提供建议，只有勾选的模型会进入配置，不会自动启用任何模型。

每次保存生成一个新的不可变配置版本，并立即替换当前生效版本。保存时同样执行准入探测；请求地址的主机变更时，平台会用新地址重新校验全部 API 密钥账号，未通过的账号标记为不可用。保存时如提示配置已被他人修改，选择「载入最新配置」后重新编辑。

「高级」区域包含三组运行参数，默认值如下：

停用供应商：在列表中关闭「可用」开关。停用只改变启停状态，不生成新版本。

4.5 账号与上游余额

同一供应商可以添加多个账号，网关在账号之间分配请求。每个账号可单独设置并发上限。

1. 进入供应商详情的「账号」页签，选择「添加账号」：
   • 「批量添加 API 密钥」：每行一把 Key，选择添加并验证后逐把检测，汇总可用、被上游拒绝和重复的数量；
   • 「推理令牌」或「登录 {平台} 订阅账号」：适用于 Anthropic Claude、OpenAI Codex、Google Gemini、GitHub Copilot、xAI Grok、Kimi 等订阅平台，按页面引导完成授权。授权链接 30 分钟内有效。
2. 在账号行的操作中可以测试、编辑、停用或启用、重新授权、刷新用量。编辑项包括备注、并发上限（1～100）和可用模型（留空表示跟随供应商模型列表）。
3. 订阅账号可开启「跨计费」：订阅账号全部不可用时改用 API 密钥账号按量计费。

账号状态包括“正常”“冷却中”“已停用”“异常”“需重新授权”。异常原因会标明余额不足、配额已用尽、Key 无效或已吊销等。所有账号都不可用时，详情页顶部提示调用会失败。

上游余额：「基本信息」页签的「上游余额」区域显示剩余额度、已用、总额和套餐，每 300 秒采样一次。平台只对提供余额查询接口的上游生效；上游不提供时显示“此上游未提供余额查询接口”，凭据失效时显示“上游凭据已失效，余额已停止更新”。

上游需要经代理访问时，由平台管理员在「平台扩展 → 网关」的「出口代理」页签维护代理，并在节点的出口策略中按目的地引用（第 23 章）。

4.6 模型能力用途与元数据

模型能接入哪些调用接口，由模型的能力用途决定。在供应商详情「基本信息」页签的模型列表中：

• 选择「配置能力」，在「模型能力配置」中为模型声明用途：对话、图像理解、图像生成、向量嵌入、重排序、语音合成、语音转写、判断、内容安全、敏感信息识别、轻量。能力来源可以是供应商发现、内置目录或手工配置；判断、内容安全、敏感信息识别三类用途只能由管理员显式声明。
• 选择「编辑模型元数据」修改显示名称等元数据。

供应商不提供某类接口时，对应用途不能被选中。模型或其供应商不支持所调用的接口时，网关返回 400，错误码 MODEL_ENDPOINT_UNSUPPORTED。全局设置中的内容安全、敏感信息识别、意图识别等默认模型（第 6.9 节），需要选用已声明对应用途的模型。

4.7 上游真实性核验

上游真实性核验用于确认上游实际提供的是所声明的模型，适用于经中转渠道接入的场景。

1. 进入供应商详情的「上游真实性」页签（页内标题「模型真伪核验」）。列表的「模型真伪」列也会显示通过、未通过、未核验的数量，点击可直达该页签。
2. 在目标模型行选择「核验」。核验只在手动触发时运行，不定期执行。
3. 核验完成后查看「核验结论」。核验分五级：接口格式兼容、计费 token 一致、能力项完整、原厂签名有效、回答风格一致；中转渠道不核验响应形态与原厂签名。
4. 对确认属于误判的级别，可选择标记误判并填写理由。

被动信号：同一页签的「被动流量信号」统计近 24 小时上游自报模型与请求模型的比对结果。出现不一致时显示“N 次上游自报模型不一致”，点击进入网关请求列表并筛选这些调用。在网关请求列表和模型服务的「调用情况」明细中，这类调用带有“上游换了模型”标记。

4.8 性能测试

性能测试按并发阶梯向上游发送流式请求，测量首字延迟、字间延迟和输出速度，用于评估上游容量。测试直连上游，不经过网关，不计入用量统计，但会消耗供应商的真实额度，并与生产流量共用该供应商的额度。

1. 进入供应商详情的「性能测试」页签，选择「发起测试」。

2. 填写参数：

   字段	范围与默认值
   「模型」	必选
   「并发阶梯」	可选 1、2、4、8、16、32、64，默认 1、4、16，最多 8 档
   「每档请求数」	1～1000，默认 64，不得少于最高并发数
   「输入长度」	16～32000 词元，默认 256
   「输出长度」	16～8192 词元，默认 256

3. 核对页面给出的预估消耗，选择「开始测试」。

4. 测试完成后查看报告：各档位的首字延迟、字间延迟、端到端耗时、每词元耗时（中位数、90 分位、99 分位、平均、最大），以及输出速度、请求速率和成功率；「失败原因」页签列出失败请求的分类。

限制：同一时间只能有一个进行中的测试；单请求超时 10 分钟；取消测试会立即中止在途请求，已完成的样本保留。

4.9 删除与操作审计

删除模型：在「基本信息」页签的模型行选择删除。平台先预览影响范围（模型服务、路由规则、定价记录、待吊销的 API 密钥等），确认后永久删除模型并清理关联记录。模型被全局设置的默认模型占用、或被不可变路由规则引用时，删除被阻止，需先更换或解除引用。

删除供应商：在列表的「操作」菜单中选择「删除」。供应商仍被模型服务使用时，平台拒绝删除并提示先从模型服务中移除。

操作审计：供应商详情的「操作审计」页签列出该供应商的创建、更新、删除、启停、检查连接、发现模型建议、更新模型定价、发起或取消性能测试等记录，点击记录查看变更详情。

---

上一章：3. 组织与权限 · 下一章：5. 模型定价与分类