选型指南 架构设计 含可复制代码

把提示词与数据版本绑在一起:可复现的一次调用

目录层用 SSG 加 ISR 拿收录,工具层用一份 JSON Schema 承接 91 个站内工具,密钥、计费与限流全部收口在国内业务后端,模型调用统一走一层薄适配。这篇把我们真实的目录结构、Schema 字段定义、路由闸门、预扣结算伪代码和合规清单完整摊开。

陈
陈默架构组
2026-09-28 · 14 分钟阅读 · 8,432 次浏览

别只记最终拼好的字符串——那样无法定位是哪一段变了。

"同样的输入,为什么这次结果不一样"

这是 AI 系统最常见的追问 ✔。原因通常有三类:模型/版本变了、提示词变了、数据(检索结果)变了 ✗。

如果这三件事没有一起记录下来,就永远答不清楚 ✗。

一、可复现调用要记录什么

每次调用至少记录四组:

1. 模型标识(名称 + 版本 + 关键参数:温度、上限);

2. 提示词版本(含模板版本号与变量值摘要 ✔);

3. 数据版本(检索结果集:用了哪些片段、它们的哈希、来源文档版本);

4. 组装清单(哪些组件参与、各多少 token —— 见可组装上下文那篇 ✔)。

关键:不要只记"最终拼好的字符串" ✗ —— 那样无法归一化、无法定位是哪一段变了 ✗。

二、把"版本"绑成一个整体

做法:给每次调用生成一个调用指纹(fingerprint):

```

fingerprint = hash(模型 + 参数 + 提示词版本 + 数据片段哈希 + 组装策略版本)

```

好处:

· 同一指纹 → 结果应该一致(除模型本身的不确定性 ✔);

· 指纹变化 → 能立刻知道是哪一类变了 ✔;

· 评测时按指纹分组,避免把"换了版本"的差异算成"提示词的效果" ✗。

三、缓存与可复现的关系

· 缓存键必须包含指纹 ✔(否则换了版本还在吃旧结果 ✗ —— 见缓存那篇 ✔);

· 反过来,指纹也让你能主动失效:提示词升版本时批量清掉旧键 ✔。

四、评测里的用法

· 对照实验:冻结指纹里除被测项以外的全部 ✔;

· 回归:同一批样本用同一指纹重跑,结果应稳定 ✔;不稳定说明还有未记录的自由度 ✗;

· 事故复盘:用指纹串起"当时到底给了模型什么" ✔(这是复盘里最先要回答的问题 ✔)。

五、落地顺序

1. 先加提示词版本号与模型参数记录(半天 ✔);

2. 再把检索片段的哈希记下来 ✔;

3. 然后算指纹并进缓存键 ✔;

4. 最后把组装清单也纳入(用于定位"哪一段变了")✔。

一条判据

> 只给你一条日志,你能否在 5 分钟内回答"当时模型看到了什么" ✔?

> 答不上,说明可复现性还没做到位 ✗。

本文由云枢 AI导航整理,内容以官方来源为准。

相关文章

顺序阅读

← 上一篇:推理成本与「思考长度」:该在哪儿设上限
下一篇:AI 功能的需求评审:先问这七个问题 →

第 56 / 171 篇

术语速查 · 本页出现的 12 个词展开看中文名与一句话解释,点术语看完整条目
  • token词元:模型处理文本的最小单位,中文约 1–2 个汉字;计费与上下文长度都按它算。
  • 转写 / 字幕Transcription:把音视频人声逐句变成带时间戳的文字稿,便于做字幕与章节切分。
  • SSE服务器发送事件:服务器通过长连接持续推送增量文本,是对白逐字出现的常见实现。
  • API应用编程接口:程序之间约定的调用方式;站内工具由服务端调用,浏览器里不出现密钥。
  • CDN内容分发网络:把静态资源缓存到离用户更近的节点,缩短加载时间。
  • 缓存Cache:把结果暂存复用,复用得越多平均耗时越低;需要约定过期与刷新策略。
  • 限流Rate Limit:限制单位时间内的请求次数,防止单用户或异常流量打满服务端。
  • SSG静态站点生成:构建阶段就生成 HTML,访问时直接返回,不必每次请求都渲染。
  • ISR增量静态再生:先返回静态页,再在后台按需重新生成,兼顾速度与更新时效。
  • 灰度发布Canary Release:先让一小部分用户用新版本,确认无误再放量,出问题的爆炸半径最小。
  • 提示词Prompt:交给模型的指令文本;写清角色、任务、输入与输出格式比反复试更省。
  • 积分Credits:站内计费单位:按工具单价预扣,调用失败自动退还;单价以定价页为准。

完整解释与站内出现处见 AI 术语表(40 条)。