选型指南 架构设计 含可复制代码

灰度期间盯什么:四组指标与写死的回滚阈值

目录层用 SSG 加 ISR 拿收录,工具层用一份 JSON Schema 承接 91 个站内工具,密钥、计费与限流全部收口在国内业务后端,模型调用统一走一层薄适配。这篇把我们真实的目录结构、Schema 字段定义、路由闸门、预扣结算伪代码和合规清单完整摊开。

陈
陈默架构组
2026-09-28 · 14 分钟阅读 · 8,432 次浏览

该拒答却作答率上升,是最该立刻回滚的信号。

灰度期间要盯的不是"有没有报错"

灰度最容易犯的错是只看错误率 ✗:错误率没涨就放量 ✔,结果上线后发现质量下降 ✔、

成本翻倍 ✔、或某类用户被系统性影响 ✔。

灰度指标要分成四组,并事先写好回滚阈值 ✔。

一、四组指标与回滚阈值(建议值,按业务调)

① 可用性(必须盯)

· 错误率、超时率 → 相对旧版 > 2 倍 即回滚 ✔;

· P95 延迟 → > 旧版 × 1.5 回滚 ✔;

· 上游限流/失败率 → 明显上升即回滚 ✔。

② 质量(最容易漏)

· 校验通过率(格式合规 ✔)→ 下降 > 3 个百分点 回滚 ✔;

· 该拒答却作答率(编造倾向 ✔)→ 上升即回滚(这条最该严 ✔);

· 负反馈率 → 相对上升 > 50% 回滚 ✔。

③ 成本

· 单位成本 → > 预算线 × 1.2 回滚 ✔;

· 缓存命中率骤降(可能是键变了 ✔)→ 查明前不放量 ✔。

④ 影响面(灰度特有)

· 分租户/分场景的成功率:某一组显著更差 → 该组退出灰度 ✔;

· 新出现的失败类型(旧版没有的坏模式 ✔)→ 回滚 ✔。

二、回滚判据要"事先写死"

灰度开始前把上面阈值填进配置/文档 ✔,别在灰度中临场决定 ✗ ——

临场决定会被"再等一会儿看看"拖住 ✗(这是最常见的事故扩大原因 ✔)。

三、灰度的节奏与暂停

· 阶梯放量:1% → 5% → 20% → 50% → 100% ✔;

· 每级停留至少覆盖一个业务高峰 ✔(否则测不出峰值问题 ✔);

· 每级之间自动检查阈值 ✔(越界自动回滚,不依赖人盯 ✔);

· 总量上限:灰度期间设成本上限 ✔(见容量与预算那两篇 ✔)。

四、三个常见反模式

· 只灰度"内部用户" ✗ → 内部用法与真实分布差异大,结论不可迁移 ✔;

· 灰度与其它改动并行 ✗ → 指标变化归因不了 ✔;

· 没有回滚演练 ✗ → 真出事时发现切不回去 ✔(见灰度开关那篇 ✔)。

五、上线判据(可直接抄)

```

✓ 可用性:错误率 ≤ 旧版 × 1.2,P95 ≤ 旧版 × 1.2

✓ 质量:格式合规率不降、该拒答却作答率不升、负反馈率不升 > 50%

✓ 成本:单位成本 ≤ 预算 × 1.2

✓ 影响面:各租户/场景成功率无显著分化,无新增严重失败类型

✓ 观测:以上指标在各阶梯均已覆盖一个业务高峰

```

任一不达标 → 自动回滚 ✔。

本文由云枢 AI导航整理,内容以官方来源为准。

相关文章

顺序阅读

← 上一篇:把检索片段喂给模型之前:去噪、排序与压缩
下一篇:工具返回值要按「给人看」设计:结构化、摘要与溯源 →

第 71 / 171 篇

术语速查 · 本页出现的 12 个词展开看中文名与一句话解释,点术语看完整条目
  • token词元:模型处理文本的最小单位,中文约 1–2 个汉字;计费与上下文长度都按它算。
  • 转写 / 字幕Transcription:把音视频人声逐句变成带时间戳的文字稿,便于做字幕与章节切分。
  • SSE服务器发送事件:服务器通过长连接持续推送增量文本,是对白逐字出现的常见实现。
  • API应用编程接口:程序之间约定的调用方式;站内工具由服务端调用,浏览器里不出现密钥。
  • CDN内容分发网络:把静态资源缓存到离用户更近的节点,缩短加载时间。
  • 缓存Cache:把结果暂存复用,复用得越多平均耗时越低;需要约定过期与刷新策略。
  • 限流Rate Limit:限制单位时间内的请求次数,防止单用户或异常流量打满服务端。
  • SSG静态站点生成:构建阶段就生成 HTML,访问时直接返回,不必每次请求都渲染。
  • ISR增量静态再生:先返回静态页,再在后台按需重新生成,兼顾速度与更新时效。
  • 灰度发布Canary Release:先让一小部分用户用新版本,确认无误再放量,出问题的爆炸半径最小。
  • 提示词Prompt:交给模型的指令文本;写清角色、任务、输入与输出格式比反复试更省。
  • 积分Credits:站内计费单位:按工具单价预扣,调用失败自动退还;单价以定价页为准。

完整解释与站内出现处见 AI 术语表(40 条)。