18. 用量与成本分析

返回概览 · 完整版目录 · 下载完整 PDF

管理员在「管理控制台 → 概览 → 概览」的「网关总览」页签分析用量、成本、可靠性与调用流向，再到同页的「网关请求」页签核对单次调用。各面板使用同一批调用事实，切换面板时不需要重新换算口径。

前提：角色、许可模块与定价要求见第 17.2 节。以美元计价的模型按「全局设置」中的「美元汇率」折算为结算币种（第 6.9 节）；未定价的调用不计入金额。

统计范围：

• 时间范围：「最近 24 小时」「最近 7 天」「最近 30 天」「本年度」，或「自定义时间范围」（不超过 366 天），默认「最近 7 天」。时间边界与图表时间轴按浏览器当前的显示时区计算，成员可在能力中心「首页 → 个人设置 → 偏好设置」的「时区」中调整。「小时热力」只支持 30 天以内的范围。
• 数据范围：点击「数据范围」，在「组织架构」中选择部门或成员（部门按每笔调用的归属部门统计，含下级部门），或在「职能组」中选择职能组；「全公司」表示不限。
• 调用条件：可再按「客户端」「模型」「接入凭据」筛选。
• 每个页签分别记住自己的筛选条件，手动切换页签不会带走当前条件；从面板下钻时，目标页签使用下钻带入的条件并保留时间范围。

18.1 分析 Token 和调用量

「网关运营指标」一行给出所选范围内的总量与对比，Token 相关指标包括「总 Token 消耗量」「输入 / 输出 Token」「缓存命中 Token」；调用相关指标包括「模型调用交付成功率」「MCP 工具调用」「活跃用户」「覆盖部门」「网关实时并发」等。每项附与上一周期的对比；没有样本时显示原因（例如「时间窗内没有耗时样本」），不显示为 0。

核对 Token 消耗及其归属：

1. 设定时间范围和数据范围，确认范围覆盖需要分析的业务时段。
2. 在「网关运营指标」记录「总 Token 消耗量」与「输入 / 输出 Token」，判断消耗由输入还是输出驱动。
3. 在「模型费用排行」「部门费用排行」「人员费用排行」中找出占比最高的对象；排行同时显示调用次数。
4. 点击排行中的行，页面切换到「网关请求」页签并带上模型、部门或人员条件，逐条核对调用的 Token 与费用。

部门归属规则：API 密钥记在部门账上时计入该部门；否则计入使用人所在部门，使用人属于多个部门时计入这些部门最深的共同上级。

核对调用量、成功率与调用主体

1. 保持同一时间范围，查看「模型调用交付成功率」，并记录其下方按「平台配置」「上游故障」「调用方」「传输中断」「未归类」拆分的失败数。
2. 在「请求结果归因」中查看各类结果的请求数与占比，类别包括「成功」「策略 · 限流 / 排队超时」「策略 · 配额 / 预算」「策略 · 护栏拦截」「上游 5xx / 超时 / 429」「上游提前断流」「客户端取消」「网关错误」；无法判定归因的调用另计为「未记录」。
3. 在「调用流向」中查看失败集中在哪个接入凭据、客户端、模型或供应商（见 18.2）。
4. 点击归因或流向中的行，进入「网关请求」页签，打开代表性调用，核对状态码、路由结论、命中规则与上游尝试。
5. 修正配置后，使用同一主体发送测试请求，并用相同筛选条件确认成功率恢复。

在到达网关数据面之前被拒绝的请求不计入「请求结果归因」；平台探针与系统调用也不计入。

分析 Token 消耗趋势

1. 选择能同时覆盖正常时段和异常时段的时间范围。
2. 在「Token 消耗趋势（输入 vs 输出）」中确认突增发生的时间点；输入 Token 含缓存读写。
3. 在「Prompt 缓存命中走势」中查看缓存命中率是否在同一时段下降。命中率 = 缓存命中 Token / 输入 Token，分母为空时显示「—」。
4. 在「小时热力」中查看星期 × 小时的请求分布，区分周期性高峰与偶发突增。
5. 依次加上「模型」「客户端」「接入凭据」条件对比，区分「请求变多」与「单次请求变长」。
6. 调整模型、配额或调用方式后，用相同粒度继续观察，确认变化持续存在。

18.2 识别高消耗接入凭据

「调用流向」面板按「接入凭据 → 客户端 → 模型 → 供应商」四层显示调用分布，用于识别调用量最大的接入凭据及其去向。

• 口径：按调用计数，每笔调用只计一次，四层合计相等，与「网关运营指标」中的请求数同源。
• 每层显示请求量最高的 8 项，其余合并为「其他 N 个」；缺少对应信息的调用分别归入「未经接入凭据」「未标识客户端」「未知模型」「未分配供应商」。
• 接入凭据节点显示为「所属人 · 凭据名」，没有所属人时只显示凭据名。
• 悬停连线或节点可查看「请求数」「失败数」「失败率」「换路后成功」与「占本列」。

操作步骤：

1. 设定时间范围，在「调用流向」中找到请求量最高的接入凭据节点。
2. 点击该节点，页面切换到「网关请求」页签并按该凭据筛选。「其他」与未标识节点不可点击。
3. 回到「网关总览」，在「接入凭据」条件中选择该凭据，查看「总消耗费用」「总 Token 消耗量」和费用走势，确认其消耗量级。
4. 将结果与该凭据对应的业务系统、模型服务和预算核对。
5. 需要完整组合时，在面板右上角选择「导出 CSV」，导出全部「接入凭据 × 客户端 × 模型 × 供应商」组合及其请求数、失败数、失败率与换路后成功次数。

18.3 成本预算和尖刺

费用相关面板：

成本尖刺发生后按以下顺序分析：

1. 确认模型定价或供应商映射近期是否调整；排行中「未定价次数」增加时，先补齐定价。
2. 在「各模型费用消耗走势」定位突增的模型和日期。
3. 在三张费用排行中确认突增来自哪个部门或人员，再按「接入凭据」条件确认来源凭据。
4. 对照「Prompt 缓存命中走势」与「语义缓存节省」，确认缓存失效没有放大实际消耗。
5. 下钻到「网关请求」，打开代表性调用，检查重复调用、长上下文和失败重试。

预算的额度在模型服务的「可用范围与配额」页签中设置（见第 7 章）。需要在费用接近预算时收到通知，在「告警规则」中启用「月度成本饱和度」规则并填写「月度预算」（见 22.2）。页面中的费用用于观察趋势与归属；涉及结算时，以供应商或企业计费系统的账单为准。

18.4 分析可靠性与耗时

可靠性与耗时相关的面板：

• 「网关运营指标」中的「首字延迟」（TTFT 均值）、「生成速率」（每秒输出 Token）、「网关耗时 P95」「端到端 P99」。
• 「请求耗时构成」：把一次调用拆为「排队」「接入层处理」「网关处理」「失败重试」「上游（流式含生成）」五段，每段是均值，可以相加。只统计耗时分段齐全的调用。
• 「生成吞吐速率」：模型生成速度随时间的变化。
• 「供应商」：各供应商的「请求」「状态」「探活延迟」「最近探活」，以及「上游 429」和「故障转移兜住」比例。
• 「上游业务系统响应耗时（P95 性能瓶颈）」与「业务工具 / MCP 调用频率与吞吐」：MCP 上游系统的耗时与调用量；耗时面板只对租户管理员显示。

分析步骤：

1. 选择异常发生的时间范围，记录请求量、成功率与各耗时指标。
2. 在「请求耗时构成」判断耗时增长落在排队、网关处理还是上游段。
3. 上游段变慢时，在「供应商」中查看探活状态、「上游 429」与「故障转移兜住」，判断是否为上游限流或故障。
4. 按「模型」条件比较正常时段与异常时段，确认是否只影响特定模型。
5. 下钻到「网关请求」，打开慢请求和失败请求，核对排队、路由、上游尝试与插件耗时。
6. 调整模型、配额或路由后，使用相同筛选条件验证耗时与成功率是否恢复。

「生成吞吐速率」「请求量」「供应商」与 MCP 耗时面板需要运维管理权限（租户管理员或「运营」角色）。样本量很小时，百分位与比例波动较大，不宜据此做重大调整。故障转移的实际行为由已发布的流量规则决定（见第 15 章），面板只反映已发生的结果。

分析接入凭据的耗时和调用明细

1. 在「接入凭据」条件中选择目标凭据，查看该凭据的请求量、成功率、Token、「首字延迟」与「端到端 P99」。
2. 去掉凭据条件，与平台整体对比，判断该业务系统是否单独变慢。
3. 查看「请求耗时构成」，确认差异集中在哪一段。
4. 切换到「网关请求」页签，保持该凭据条件，打开慢请求与失败请求，核对路由、上游尝试和耗时。
5. 调整调用方式、模型或配额后，用同一凭据发送测试请求，确认明细和汇总指标均恢复。

18.5 切换统计范围与导出

同一问题可从费用、Token、耗时和调用流向等面板观察。比较前固定时间范围和主要筛选条件，确保比较的是同一批数据。

1. 先明确问题与统计周期，例如「某接入凭据昨日失败率升高」。
2. 设定时间范围，再通过「数据范围」与「客户端」「模型」「接入凭据」条件缩小范围。
3. 核对各面板的单位与口径说明（标题旁的提示），口径不同的数字不直接相减。
4. 从面板下钻到「网关请求」，用实际调用解释汇总趋势。
5. 需要留存分析结果时，选择工具栏中的「导出汇报」，导出与指标行同一范围的 CSV 汇报；「调用流向」面板另可单独「导出 CSV」。
6. 需要定期取得用量汇总或完整调用记录时，使用「报表导出」（见 22.6）。

「导出汇报」要求账号具备运维查看权限，且许可包含「FinOps」模块。

18.6 处理负载与容量异常

当调用量、错误率或耗时明显变化时，按同一时间范围完成以下检查：

1. 在「网关运营指标」查看「网关实时并发」，在「请求量」面板查看成功与失败叠加的请求趋势，确认负载变化的时间与幅度。
2. 在「调用流向」和三张费用排行中确认变化集中在哪些接入凭据、模型或部门。
3. 在「供应商」面板确认上游是否出现 429 或探活异常。
4. 进入「网关请求」核对状态、排队、重试和代表性请求，确认实际返回由模型服务配额、API 密钥配额还是流量规则触发。
5. 需要调整时，一次只修改一类配额或保护规则，并记录原值和恢复值。
6. 使用正常业务请求验证恢复情况；持续异常时，再检查模型健康与上游服务状态。

容量问题不能只依据单个时间点或平均耗时判断，应结合时间范围、请求量、失败类型和调用明细确认影响范围。

---

上一章：17. 查看用量并控制成本 · 下一章：19. 可观测入口、数据来源与权限边界