选型指南 架构设计 含可复制代码

成本与质量曲线:找到最优点

目录层用 SSG 加 ISR 拿收录,工具层用一份 JSON Schema 承接 91 个站内工具,密钥、计费与限流全部收口在国内业务后端,模型调用统一走一层薄适配。这篇把我们真实的目录结构、Schema 字段定义、路由闸门、预扣结算伪代码和合规清单完整摊开。

陈
陈默架构组
2026-09-28 · 14 分钟阅读 · 8,432 次浏览

你能否说出「这档比下一档贵 X%,质量只高 Y%」?

越贵不等于越好,越省不等于越差

成本与质量通常呈收益递减曲线 ✔:

从"最便宜"提到"中等" ✗→✔,质量提升明显 ✔;

从"中等"提到"最贵" ✔,提升很小而成本翻倍 ✔。

要找到"最优点" ✔(而不是默认选最贵或最省 ✔)。

一、怎么画这条曲线(三步)

```

① 定指标:质量(可接受率)+ 成本(单位成本)

② 选 3~4 个档位:最省 / 中 / 贵 / 最贵

③ 同一批评测样本跑一遍 → 画散点(横轴成本、纵轴质量)

```

要点:同一批样本(否则不可比 ✔ —— 见口径文档 ✔)。

二、典型形态与判断

| 形态 | 判断 |

|---|---|

| 曲线在中段变平 ✔ | 中段就是最优点,不必上最贵 ✔ |

| 曲线持续上升且陡 ✔ | 该场景对质量敏感,值得上贵档 ✔ |

| 曲线几乎平 ✔ | 该用最省的(质量差不多 ✔) |

| 曲线上下抖动 ✔ | 样本太小或指标不稳 → 加样本 ✔ |

关键:按场景分别画 ✗→✔(分类任务与多跳推理的最优点不同 ✔ ——

一个可能在中段,一个可能在最贵段 ✔)。

三、找到最优点之后

· 写进路由规则 ✔(简单任务走省档 ✔ —— 见模型选择那篇 ✔);

· 设"质量下限"报警 ✔(低于下限自动升级到下一档 ✔);

· 季度复算 ✔(模型升级后曲线会变 ✔)。

四、三个反模式

· 只按"成功率"选档 ✗(忽略成本,永远选最贵 ✔);

· 只按成本选档 ✗(质量掉到不可接受 ✔);

· 用一个全局最优点 ✗(不同任务不同 ✔)。

五、一条判据

> 你能否说出"当前这档比下一档贵 X%,质量只高 Y%" ✔?

> 说不出,说明档位选择还是凭感觉 ✗。

本文由云枢 AI导航整理,内容以官方来源为准。

相关文章

顺序阅读

← 上一篇:把评审做轻:异步评审怎么做
下一篇:缓存、索引与库的版本一致:三份真相别打架 →

第 165 / 171 篇

术语速查 · 本页出现的 12 个词展开看中文名与一句话解释,点术语看完整条目
  • token词元:模型处理文本的最小单位,中文约 1–2 个汉字;计费与上下文长度都按它算。
  • 转写 / 字幕Transcription:把音视频人声逐句变成带时间戳的文字稿,便于做字幕与章节切分。
  • SSE服务器发送事件:服务器通过长连接持续推送增量文本,是对白逐字出现的常见实现。
  • API应用编程接口:程序之间约定的调用方式;站内工具由服务端调用,浏览器里不出现密钥。
  • CDN内容分发网络:把静态资源缓存到离用户更近的节点,缩短加载时间。
  • 缓存Cache:把结果暂存复用,复用得越多平均耗时越低;需要约定过期与刷新策略。
  • 限流Rate Limit:限制单位时间内的请求次数,防止单用户或异常流量打满服务端。
  • SSG静态站点生成:构建阶段就生成 HTML,访问时直接返回,不必每次请求都渲染。
  • ISR增量静态再生:先返回静态页,再在后台按需重新生成,兼顾速度与更新时效。
  • 灰度发布Canary Release:先让一小部分用户用新版本,确认无误再放量,出问题的爆炸半径最小。
  • 提示词Prompt:交给模型的指令文本;写清角色、任务、输入与输出格式比反复试更省。
  • 积分Credits:站内计费单位:按工具单价预扣,调用失败自动退还;单价以定价页为准。

完整解释与站内出现处见 AI 术语表(40 条)。