选型指南 架构设计 含可复制代码

提示词里的示例怎么给:少而准 vs 多而全

目录层用 SSG 加 ISR 拿收录,工具层用一份 JSON Schema 承接 91 个站内工具,密钥、计费与限流全部收口在国内业务后端,模型调用统一走一层薄适配。这篇把我们真实的目录结构、Schema 字段定义、路由闸门、预扣结算伪代码和合规清单完整摊开。

陈
陈默架构组
2026-09-28 · 14 分钟阅读 · 8,432 次浏览

示例改了要重跑评测——示例也是代码,要版本化。

示例(少样本)是提示词里最贵的部分

示例能显著提升稳定性,但也吃 token、吃注意力。给多少、给什么,需要设计而不是堆。

三个原则

一、少而准

· 通常 2~3 个示例就能覆盖格式与风格;再加往往收益递减;

· 一个完整正例 + 一个边界例(字段为空、输入极短、含噪声)比五个同类正例有用;

· 如果非要更多,先检查是不是任务描述本身没写清。

二、覆盖"容易出错的地方"

示例的作用不是"说明任务"(描述已经说了),而是钉住容易漂的点:

· 输出格式的边界(空值怎么写、列表只有一项怎么写);

· 判断口径的边界("部分相关"算不算相关);

· 语气与长度(先给结论、最多几行)。

三、保持与真实分布一致

· 示例的输入风格要接近线上真实输入(长度、语言、是否含噪声);

· 别用"教科书式"的干净例子,否则线上遇到真实噪声就崩;

· 示例里的字段值不要与真实数据冲突(会让模型照抄错误值)。

该不该用示例:一个判断顺序

1. 任务能不能用规则解决?(能就别上模型)

2. 任务描述 + 输出 schema 够不够?(够就别加示例)

3. 还漂 → 加 1 个正例;

4. 仍漂 → 加 1 个边界例(通常这一步收益最大);

5. 还漂 → 考虑换模型或拆分任务(不要继续堆示例)。

成本与可维护性

· 每个示例都会进入每次调用,成本 × 调用量;

· 示例改了要重跑评测(示例也是一种"代码" ✔ 要版本化);

· 把示例与提示词一起放进版本库,并在变更说明里写清"为什么加这个例子"。

常见反模式

· 把示例堆到十几个,靠"感觉更稳";

· 示例与 schema 不一致(示例里多了字段);

· 示例用的是过时口径,没人知道为什么这么写;

· 把用户投诉的案例原样塞进示例(含个人数据,合规风险)。

本文由云枢 AI导航整理,内容以官方来源为准。

相关文章

顺序阅读

← 上一篇:把检索做成可评测的:召回、排序与答案三段分开测
下一篇:上线后的第一周:AI 功能该盯什么 →

第 32 / 171 篇

术语速查 · 本页出现的 12 个词展开看中文名与一句话解释,点术语看完整条目
  • token词元:模型处理文本的最小单位,中文约 1–2 个汉字;计费与上下文长度都按它算。
  • 转写 / 字幕Transcription:把音视频人声逐句变成带时间戳的文字稿,便于做字幕与章节切分。
  • SSE服务器发送事件:服务器通过长连接持续推送增量文本,是对白逐字出现的常见实现。
  • API应用编程接口:程序之间约定的调用方式;站内工具由服务端调用,浏览器里不出现密钥。
  • CDN内容分发网络:把静态资源缓存到离用户更近的节点,缩短加载时间。
  • 缓存Cache:把结果暂存复用,复用得越多平均耗时越低;需要约定过期与刷新策略。
  • 限流Rate Limit:限制单位时间内的请求次数,防止单用户或异常流量打满服务端。
  • SSG静态站点生成:构建阶段就生成 HTML,访问时直接返回,不必每次请求都渲染。
  • ISR增量静态再生:先返回静态页,再在后台按需重新生成,兼顾速度与更新时效。
  • 灰度发布Canary Release:先让一小部分用户用新版本,确认无误再放量,出问题的爆炸半径最小。
  • 提示词Prompt:交给模型的指令文本;写清角色、任务、输入与输出格式比反复试更省。
  • 积分Credits:站内计费单位:按工具单价预扣,调用失败自动退还;单价以定价页为准。

完整解释与站内出现处见 AI 术语表(40 条)。