选型指南 架构设计 含可复制代码

上线后的第一周:AI 功能该盯什么

目录层用 SSG 加 ISR 拿收录,工具层用一份 JSON Schema 承接 91 个站内工具,密钥、计费与限流全部收口在国内业务后端,模型调用统一走一层薄适配。这篇把我们真实的目录结构、Schema 字段定义、路由闸门、预扣结算伪代码和合规清单完整摊开。

陈
陈默架构组
2026-09-28 · 14 分钟阅读 · 8,432 次浏览

没有回滚开关,就不要全量上线。

上线不是终点,第一周决定"能不能活下去"

AI 功能上线后第一周,最容易出的事不是效果差,而是:成本失控、延迟飙升、坏输入打崩、

以及"没人知道它到底在发生什么"。所以第一周要盯指标,而不是盯好评。

上线前就准备好的四件事

1. 埋点:请求 id、模型与提示词版本、耗时(首字与总时长)、成败、校验失败原因、成本(见"埋点"那篇);

2. 护栏:限流、配额、超时、最大输入长度、最大输出长度;

3. 降级链:上游不可用时按"重试→小模型→规则兜底→明确不可用"逐层退(见"降级设计"那篇);

4. 回滚开关:能一键关掉或切回旧版本/旧模型 —— 没有回滚开关就不要全量上线。

第一周每天看什么

当天(高频)

· 错误率与失败类型分布(格式错 / 超时 / 校验拒绝 / 上游 5xx);

· P95 延迟(首字与总时长分开);

· 降级触发次数与原因;

· 成本曲线(当日花费、单次均价)。

每天(固定时间)

· 负反馈与人工介入样本(抽 10 条看原文,不要只看比例);

· 坏的"最贵请求"Top 10(哪类输入最烧钱);

· 被拒绝的输入样例(可能是规则写太紧,把正常请求挡了)。

三个典型事故与对应防线

| 事故 | 防线 |

|---|---|

| 某租户脚本刷接口,成本当天翻倍 | 租户配额 + 限流 + 成本告警 |

| 某类超长输入让 P95 从 2s 变 30s | 输入长度上限 + 超时 + 排队可见 |

| 上游抖动导致大面积失败 | 重试 + 降级链 + 明确不可用提示 |

第一周结束时要能回答

· 谁在用(入口、频次、留存);

· 效果如何(成功率、负反馈率、失败类型);

· 花了多少(单位成本、最贵的功能与租户);

· 出过什么事(每次事故的原因与已加的防线);

· 下一步做什么(按数据,而不是按感觉)。

一个反面清单(别做这些)

· 上线即全量、无回滚开关;

· 只看"好评率",不看失败类型;

· 成本不设告警,月末才发现;

· 出了事故只改文案,不加防线。

本文由云枢 AI导航整理,内容以官方来源为准。

相关文章

顺序阅读

← 上一篇:提示词里的示例怎么给:少而准 vs 多而全
下一篇:给 AI 功能定预算:成本与延迟两条线怎么设 →

第 33 / 171 篇

术语速查 · 本页出现的 12 个词展开看中文名与一句话解释,点术语看完整条目
  • token词元:模型处理文本的最小单位,中文约 1–2 个汉字;计费与上下文长度都按它算。
  • 转写 / 字幕Transcription:把音视频人声逐句变成带时间戳的文字稿,便于做字幕与章节切分。
  • SSE服务器发送事件:服务器通过长连接持续推送增量文本,是对白逐字出现的常见实现。
  • API应用编程接口:程序之间约定的调用方式;站内工具由服务端调用,浏览器里不出现密钥。
  • CDN内容分发网络:把静态资源缓存到离用户更近的节点,缩短加载时间。
  • 缓存Cache:把结果暂存复用,复用得越多平均耗时越低;需要约定过期与刷新策略。
  • 限流Rate Limit:限制单位时间内的请求次数,防止单用户或异常流量打满服务端。
  • SSG静态站点生成:构建阶段就生成 HTML,访问时直接返回,不必每次请求都渲染。
  • ISR增量静态再生:先返回静态页,再在后台按需重新生成,兼顾速度与更新时效。
  • 灰度发布Canary Release:先让一小部分用户用新版本,确认无误再放量,出问题的爆炸半径最小。
  • 提示词Prompt:交给模型的指令文本;写清角色、任务、输入与输出格式比反复试更省。
  • 积分Credits:站内计费单位:按工具单价预扣,调用失败自动退还;单价以定价页为准。

完整解释与站内出现处见 AI 术语表(40 条)。