选型指南 架构设计 含可复制代码

把工具清单做成能力目录:模型怎么知道有什么工具

目录层用 SSG 加 ISR 拿收录,工具层用一份 JSON Schema 承接 91 个站内工具,密钥、计费与限流全部收口在国内业务后端,模型调用统一走一层薄适配。这篇把我们真实的目录结构、Schema 字段定义、路由闸门、预扣结算伪代码和合规清单完整摊开。

陈
陈默架构组
2026-09-28 · 14 分钟阅读 · 8,432 次浏览

给模型 10 个工具与 50 个工具,选择准确率差多少?

工具太多,模型反而选错

给智能体接工具时,常见想法是"工具越多能力越强" ✗。

实际是:工具清单越长,选择与参数填充的错误率越高 ✔(见工具设计那篇 ✔)。

把工具清单做成一份"能力目录" ✔:分层、可检索、带边界说明 ✔。

一、目录要有的字段

```

name(直白的名字 ✔)

what(一句话说明用途 ✔)

when(什么时候用 ✔)

when_not(什么时候不要用 ✔)

args(参数与约束 ✔)

cost(耗时/费用量级 ✔)

side_effects(是否有写操作 ✔)

```

when_not 与 side_effects 最常被省略 ✗,却最能减少误用 ✔。

二、按"能力"分层,而不是按"接口"罗列

· 第一层:能力类别(查询 / 计算 / 写入 / 通知 ✔);

· 第二层:具体工具 ✔;

· 第三层:参数细节(按需展开 ✔)。

好处:模型先选类别(错得少 ✔),再看类别下的少量工具(候选集小 ✔)。

三、按当前任务动态给候选

不要把全部工具都塞进提示词 ✗。做法:

1. 用规则先筛(按用户意图/场景 ✔);

2. 或用检索选候选(把"工具描述"当作文档检索 ✔ —— 见检索那几篇 ✔);

3. 只给 Top 5~10 个工具 ✔,并在提示词里说明"只能用以下工具" ✔。

要点:候选集要可解释 ✗ ✔(为什么给这几个 ✔ —— 便于归因与调试 ✔)。

四、工具说明要写"像给人看的文档"

· 名字直白(search_orders ✔ 而不是 qo_v2 ✗);

· 说明里写边界与常见陷阱("只返回最近 90 天" ✔);

· 参数要可枚举的给枚举 ✔(不要自由文本 ✔);

· 返回值要给人看(见工具返回值那篇 ✔)。

五、该观测什么

· 工具选择准确率(选对工具的比例 ✔ —— 用评测集测 ✔);

· 参数填充错误率(按工具分组 ✔ —— 错误率高的工具通常说明书写不清 ✔);

· 候选集命中率(正确工具是否在候选里 ✔ —— 不在就是筛得不对 ✔);

· 工具数量与错误率的关系(通常正相关 ✔ —— 用来推动精简 ✔)。

一条判据

> 给模型10 个工具 vs 50 个工具 ✔,选择准确率差多少 ✔?

> 如果差很多,说明目录没做分层与筛选 ✗(加工具只会更糟 ✔)。

本文由云枢 AI导航整理,内容以官方来源为准。

相关文章

顺序阅读

← 上一篇:AI 功能的首次成功体验:新手五分钟能做成什么
下一篇:上下文里的示例变成数据:小心少样本污染 →

第 96 / 171 篇

术语速查 · 本页出现的 12 个词展开看中文名与一句话解释,点术语看完整条目
  • token词元:模型处理文本的最小单位,中文约 1–2 个汉字;计费与上下文长度都按它算。
  • 转写 / 字幕Transcription:把音视频人声逐句变成带时间戳的文字稿,便于做字幕与章节切分。
  • SSE服务器发送事件:服务器通过长连接持续推送增量文本,是对白逐字出现的常见实现。
  • API应用编程接口:程序之间约定的调用方式;站内工具由服务端调用,浏览器里不出现密钥。
  • CDN内容分发网络:把静态资源缓存到离用户更近的节点,缩短加载时间。
  • 缓存Cache:把结果暂存复用,复用得越多平均耗时越低;需要约定过期与刷新策略。
  • 限流Rate Limit:限制单位时间内的请求次数,防止单用户或异常流量打满服务端。
  • SSG静态站点生成:构建阶段就生成 HTML,访问时直接返回,不必每次请求都渲染。
  • ISR增量静态再生:先返回静态页,再在后台按需重新生成,兼顾速度与更新时效。
  • 灰度发布Canary Release:先让一小部分用户用新版本,确认无误再放量,出问题的爆炸半径最小。
  • 提示词Prompt:交给模型的指令文本;写清角色、任务、输入与输出格式比反复试更省。
  • 积分Credits:站内计费单位:按工具单价预扣,调用失败自动退还;单价以定价页为准。

完整解释与站内出现处见 AI 术语表(40 条)。