标签 · 成本

成本与质量曲线：找到最优点

成本与质量是收益递减关系。本文给出画曲线的三步、四种典型形态与判断、找到最优点之后要做的三件事与三个反模式。

把模型选择交给用户：快与准的取舍

模型选择是取舍。本文给出自动路由的三条规则（重点是校验失败自动升级）、给用户的两档与三种覆盖方式、该观测的四个指标与三个反模式。

把成本上限做成产品能力：让用户自己设

成本控制只做在后台，用户要么不敢用要么花超。本文给出三种用户可设上限、到上限时的三种行为、界面实时可见的要求、与后台配额的三层关系与两个反模式。

错误预算：允许错多少、超了怎么办

没有可接受的错误水平，每次出问题都在争「算不算严重」。本文给出定预算的三条依据、预算的两种用法、与发布门禁的分工与三个反模式。

把上下文当缓存来管：前缀稳定与命中率

前缀缓存能把成本与延迟显著降下来。本文给出前缀缓存的基本规律、四个落地技巧、该观测的三个指标、三个常见坑与一份检查清单。

把价格与额度讲清楚：用户最常误解的三件事

价格投诉多源于误解。本文给出三件最常被误解的事（计费单位/额度周期与范围/超额行为）与各自做法、三个设计细节与一份可直接抄的检查清单。

AI 功能的分层定价：把成本映射到价格

AI 功能的边际成本随用量上升。本文给出先算的三个数、四种分层维度（用量最贴成本）、价格的三个心理细节、三个反模式与一个务实起点。

试用额度怎么设计：按体验预算而不是成本

试用额度是刻意留出的体验预算。本文给出按「一次成功体验 + 2~3 倍余量」定额度的方法、四种试用形态与建议组合、额度用尽时的体验要点、转化设计的诚实原则与该看

AI 功能的成本可视化：看得见、分得清、能追责

成本失控多半源于看不见。本文给出三条曲线（当日/单位/构成）、四个归因维度（功能/租户/任务类型/模型版本）、告警与预算做法、三个「看不见」的常见来源与落地顺序

长会话的成本控制：摘要频率与预算联动

多轮对话的 token 消耗超线性增长。本文给出会话级预算、三种摘要触发策略与推荐组合、摘要该保留什么、三个联动规则、该观测的四个指标与四个反模式。

推理成本与「思考长度」：该在哪儿设上限

把思考长度拉满往往成本翻倍而收益有限。本文给出两类预算（token 与时限）、按任务分层的额度建议、思考被截断时的三种处置、该观测的四个指标与三条纪律。

模型换代怎么迁：对照、灰度与回滚

模型换代要当成正式变更：先冻结评测集与基线、准备提示词适配与回滚方案，再离线对照、影子双跑、按风险灰度，最后保留旧路径一段时间。本文给出四坑与可直接抄的上线判据

AI 功能的容量规划：怎么估并发与峰值

AI 场景的并发要拆成入口、上游、下游三层分别估，取最紧的一层做上限。本文给出用利特尔法则估算的方法、峰值处理的三种手段（按代价排序）、三类常见误判与一张最小容

LLM 的缓存怎么做：三层缓存与三类不要缓存

LLM 缓存难在键的定义。本文给出三层缓存（精确、语义、前缀复用）、各自的键设计与风险、三类不该缓存的内容、该观测的指标（含最易忽略的误命中率）与落地顺序。

多模型路由：把成本花在刀刃上

多模型路由让不同难度的请求走不同档位。本文给出三个可度量判据、三种实现（规则/分类器/级联）与各自代价、兜底与抽检要求，以及该观测的指标与落地顺序。

给 AI 功能定预算：成本与延迟两条线怎么设

AI 功能要同时管成本与延迟。本文讲清预算怎么从业务倒推、延迟为什么要分首字与总时长两段、超标后的排查顺序、三条纪律与一张最小看板。

把成本按租户摊开：单位经济模型怎么看

AI 成本必须摊到功能、租户、任务类型等维度，才能回答「哪个功能在花钱」。本文给出三个基础数字、三条看不见的浪费、该看的指标与落地顺序。

多租户下的配额与限流：别让一个用户拖垮所有人

多租户系统的事故常源于单个租户打爆资源。本文给出四层防护（配额、限流、并发隔离、降级熔断）、该观测的指标与一份可执行的上线清单。