选型指南 架构设计 含可复制代码

AI 功能的埋点与看板:该记录哪些字段

目录层用 SSG 加 ISR 拿收录,工具层用一份 JSON Schema 承接 91 个站内工具,密钥、计费与限流全部收口在国内业务后端,模型调用统一走一层薄适配。这篇把我们真实的目录结构、Schema 字段定义、路由闸门、预扣结算伪代码和合规清单完整摊开。

陈
陈默架构组
2026-09-28 · 14 分钟阅读 · 8,432 次浏览

先记「请求 id + 版本 + 耗时 + 成败」,这四样信息量最大。

为什么必须埋点

"感觉最近效果变差了"是无法行动的。AI 功能的埋点要能回答四个问题:

谁在用、用得怎么样、错在哪里、花了多少钱。

该记录的字段

基础

· 时间戳、会话/请求 id、用户或租户 id(注意合规:能不用个人标识就不用);

· 功能入口(哪个页面、哪个按钮)、设备与语言。

调用

· 模型与版本、提示词版本、参数(温度、上限);

· 输入长度、输出长度、耗时(首字延迟与总时长分开记);

· 是否命中缓存、是否走了降级、用了哪条通道。

质量

· 校验是否通过、失败原因分类(格式错/字段缺/业务规则不符);

· 用户反馈(点赞/点踩/改写/放弃);

· 是否触发人工介入。

成本

· 输入/输出 token 数或调用次数,折算成金额;

· 按功能、按租户聚合,能看出"谁在烧钱"。

三张必备看板

1. 健康度:成功率、校验失败率、降级率、P95 延迟;

2. 质量:负反馈率、人工介入率、按失败类型分布;

3. 成本:每日花费、单次调用均价、花费 Top 功能与 Top 租户。

常见做法上的坑

· 只记成功:失败与超时才是最有信息量的;

· 不记版本:出问题时无法归因到具体模型/提示词版本;

· 记了不聚合:明细一大堆,却答不出"哪个功能在恶化";

· 把个人敏感信息原样入库:埋点也要按最小必要原则脱敏。

落地顺序

1. 先加"请求 id + 版本 + 耗时 + 成败"这四样(改动最小、信息量最大);

2. 再加校验失败原因与用户反馈;

3. 最后接成本折算与看板;

4. 定一个每周复盘动作:看失败类型分布的变化,而不是只看总量。

本文由云枢 AI导航整理,内容以官方来源为准。

相关文章

顺序阅读

← 上一篇:检索质量差,先别怪模型:文档解析与切分的五个检查点
下一篇:AI 功能的 A/B 测试怎么做才可信 →

第 18 / 171 篇

术语速查 · 本页出现的 12 个词展开看中文名与一句话解释,点术语看完整条目
  • token词元:模型处理文本的最小单位,中文约 1–2 个汉字;计费与上下文长度都按它算。
  • 转写 / 字幕Transcription:把音视频人声逐句变成带时间戳的文字稿,便于做字幕与章节切分。
  • SSE服务器发送事件:服务器通过长连接持续推送增量文本,是对白逐字出现的常见实现。
  • API应用编程接口:程序之间约定的调用方式;站内工具由服务端调用,浏览器里不出现密钥。
  • CDN内容分发网络:把静态资源缓存到离用户更近的节点,缩短加载时间。
  • 缓存Cache:把结果暂存复用,复用得越多平均耗时越低;需要约定过期与刷新策略。
  • 限流Rate Limit:限制单位时间内的请求次数,防止单用户或异常流量打满服务端。
  • SSG静态站点生成:构建阶段就生成 HTML,访问时直接返回,不必每次请求都渲染。
  • ISR增量静态再生:先返回静态页,再在后台按需重新生成,兼顾速度与更新时效。
  • 灰度发布Canary Release:先让一小部分用户用新版本,确认无误再放量,出问题的爆炸半径最小。
  • 提示词Prompt:交给模型的指令文本;写清角色、任务、输入与输出格式比反复试更省。
  • 积分Credits:站内计费单位:按工具单价预扣,调用失败自动退还;单价以定价页为准。

完整解释与站内出现处见 AI 术语表(40 条)。