选型指南 架构设计 含可复制代码

把生成与校验分开部署:为什么不该互相影响

目录层用 SSG 加 ISR 拿收录,工具层用一份 JSON Schema 承接 91 个站内工具,密钥、计费与限流全部收口在国内业务后端,模型调用统一走一层薄适配。这篇把我们真实的目录结构、Schema 字段定义、路由闸门、预扣结算伪代码和合规清单完整摊开。

陈
陈默架构组
2026-09-28 · 14 分钟阅读 · 8,432 次浏览

校验失败就整体重试,成本会翻倍。

"生成"与"校验"耦合,会互相拖累

常见架构问题 ✗:同一个服务里既调用模型生成 ✔,又做规则校验与落库 ✔。

结果是:校验加严 → 生成也变慢 ✔;生成限流 → 校验也被拖住 ✔;

更糟的是校验失败时重试整个生成 ✗(白花钱 ✔)。

把"生成"与"校验"分开 ✔:职责分离、独立扩缩、独立失败 ✔。

一、分开之后的四个好处

1. 独立扩缩(校验是纯计算,便宜且快 ✔ —— 不必跟模型一起排队 ✔);

2. 独立失败(校验服务挂了 → 可以降级为"标记待人工" ✔,而不是整体不可用 ✔);

3. 可重放(生成结果存下来 ✔ → 校验规则改了可以只重跑校验 ✔,不用重新调用模型 ✔);

4. 可审计(校验是确定性的 ✔ → 结果可复现、可解释 ✔)。

第 3 条最省钱 ✗→✔:规则调整(新增词表、改阈值 ✔)只需重跑校验 ✔。

二、推荐的分段

```

① 准备(输入规范化、权限判定 —— 见输入规范化那篇 ✔)

② 生成(调模型,产出原始输出 + 元数据 ✔)

③ 校验(schema、规则、词表、证据一致性 ✔)

④ 落库/交付(幂等写入 + 审核队列 ✔)

```

每段独立重试 ✔:生成失败重试生成 ✔;校验失败只重跑校验 ✔(或带上错误回喂重生成一次 ✔)。

三、接口怎么定

· 生成输出:原始输出 + model/prompt_version/index_version + token/成本 ✔;

· 校验输入:原始输出 + 上下文(资料片段 id ✔);输出:pass/fail + reasons[] ✔;

· 关键:校验结果是结构化的(便于统计哪条规则最常拦 ✔ —— 见约束变校验 ✔)。

四、三个常见反模式

· 校验写在提示词里 ✗(模型自己审自己 ✔ —— 应该是外部校验 ✔);

· 校验失败就整体重试 ✗(成本翻倍 ✔);

· 校验与生成同一进程同一队列 ✗(互相拖累 ✔)。

五、一条判据

> 改一条校验规则后 ✔,你能否不重新调用模型就把已有结果重跑一遍校验 ✔?

> 不能,说明生成与校验还耦合在一起 ✗。

本文由云枢 AI导航整理,内容以官方来源为准。

相关文章

顺序阅读

← 上一篇:把踩过的坑固化成边界用例库
下一篇:把提示词当接口来设计:输入输出契约 →

第 137 / 171 篇

术语速查 · 本页出现的 12 个词展开看中文名与一句话解释,点术语看完整条目
  • token词元:模型处理文本的最小单位,中文约 1–2 个汉字;计费与上下文长度都按它算。
  • 转写 / 字幕Transcription:把音视频人声逐句变成带时间戳的文字稿,便于做字幕与章节切分。
  • SSE服务器发送事件:服务器通过长连接持续推送增量文本,是对白逐字出现的常见实现。
  • API应用编程接口:程序之间约定的调用方式;站内工具由服务端调用,浏览器里不出现密钥。
  • CDN内容分发网络:把静态资源缓存到离用户更近的节点,缩短加载时间。
  • 缓存Cache:把结果暂存复用,复用得越多平均耗时越低;需要约定过期与刷新策略。
  • 限流Rate Limit:限制单位时间内的请求次数,防止单用户或异常流量打满服务端。
  • SSG静态站点生成:构建阶段就生成 HTML,访问时直接返回,不必每次请求都渲染。
  • ISR增量静态再生:先返回静态页,再在后台按需重新生成,兼顾速度与更新时效。
  • 灰度发布Canary Release:先让一小部分用户用新版本,确认无误再放量,出问题的爆炸半径最小。
  • 提示词Prompt:交给模型的指令文本;写清角色、任务、输入与输出格式比反复试更省。
  • 积分Credits:站内计费单位:按工具单价预扣,调用失败自动退还;单价以定价页为准。

完整解释与站内出现处见 AI 术语表(40 条)。