选型指南 架构设计 含可复制代码

降级链要有层次:五级递进与每级的四个问题

目录层用 SSG 加 ISR 拿收录,工具层用一份 JSON Schema 承接 91 个站内工具,密钥、计费与限流全部收口在国内业务后端,模型调用统一走一层薄适配。这篇把我们真实的目录结构、Schema 字段定义、路由闸门、预扣结算伪代码和合规清单完整摊开。

陈
陈默架构组
2026-09-28 · 14 分钟阅读 · 8,432 次浏览

上游变慢一半时,系统进入哪一级、用户看到什么、多久恢复?

降级不该只有"开/关"两档

很多系统的降级设计是二元的 ✗:要么正常、要么报错 ✔。

但真实故障是渐进的 ✔(上游变慢、部分失败、配额快满 ✔),

降级链要有层次 ✔,逐级退让而不是一步到底 ✔。

一、五级降级(从轻到重)

```

① 重试(瞬时故障,退避重试,见重试那篇)

② 换路(换模型/换供应商/换区域,见多模型路由那篇)

③ 缩量(少检索几条、缩短输出、关掉思考,见预算那篇)

④ 用缓存/兜底(返回上次结果或规则结果,并明确标注)

⑤ 明确不可用(给替代路径与等待时间,见降级提示那篇)

```

要点:每一级都要有开关与观测 ✗→✔ ——

没有观测,就不知道系统当前在第几级 ✔(这是最常见的问题 ✔)。

二、每级要回答四个问题

```

① 触发条件(什么指标到什么阈值进入这一级)

② 用户可见差异(用户能感知到什么变化,如何标注)

③ 成本与延迟影响(这一级是省钱还是花钱)

④ 退出条件(什么时候回到上一级,是否需要人工)

```

第 ④ 项最容易漏 ✗:只降不升 ✗ → 系统长期停在降级态 ✔,用户以为这就是正常水平 ✔。

三、对外要"如实标注"

· 第 ③ 级起必须告知用户 ✔("当前为快速模式" ✔);

· 第 ④ 级要说明结果可能不是最新的 ✔;

· 第 ⑤ 级给替代路径(见降级提示那篇 ✔)。

静默降级是最坏的做法 ✗(用户拿兜底结果当完整结果用 ✔)。

四、该观测什么

· 当前所处级别(按功能实时可见 ✔);

· 各级触发次数与时长(哪一级最常触发 → 该优化哪儿 ✔);

· 降级期间的负反馈率(降级是否被用户察觉并反感 ✔);

· 自动恢复率(不能自动恢复的,说明退出条件没设计好 ✔)。

五、一条判据

> 上游变慢一半(不是全挂 ✔)时 ✔,系统会进入哪一级 ✔、用户看到什么 ✔、多久恢复 ✔?

> 答不出,说明降级链还只有"开/关"两档 ✗。

本文由云枢 AI导航整理,内容以官方来源为准。

相关文章

顺序阅读

← 上一篇:把多轮改写做顺:只改该改的,别丢已改的
下一篇:错误预算:允许错多少、超了怎么办 →

第 145 / 171 篇

术语速查 · 本页出现的 12 个词展开看中文名与一句话解释,点术语看完整条目
  • token词元:模型处理文本的最小单位,中文约 1–2 个汉字;计费与上下文长度都按它算。
  • 转写 / 字幕Transcription:把音视频人声逐句变成带时间戳的文字稿,便于做字幕与章节切分。
  • SSE服务器发送事件:服务器通过长连接持续推送增量文本,是对白逐字出现的常见实现。
  • API应用编程接口:程序之间约定的调用方式;站内工具由服务端调用,浏览器里不出现密钥。
  • CDN内容分发网络:把静态资源缓存到离用户更近的节点,缩短加载时间。
  • 缓存Cache:把结果暂存复用,复用得越多平均耗时越低;需要约定过期与刷新策略。
  • 限流Rate Limit:限制单位时间内的请求次数,防止单用户或异常流量打满服务端。
  • SSG静态站点生成:构建阶段就生成 HTML,访问时直接返回,不必每次请求都渲染。
  • ISR增量静态再生:先返回静态页,再在后台按需重新生成,兼顾速度与更新时效。
  • 灰度发布Canary Release:先让一小部分用户用新版本,确认无误再放量,出问题的爆炸半径最小。
  • 提示词Prompt:交给模型的指令文本;写清角色、任务、输入与输出格式比反复试更省。
  • 积分Credits:站内计费单位:按工具单价预扣,调用失败自动退还;单价以定价页为准。

完整解释与站内出现处见 AI 术语表(40 条)。