选型指南 架构设计 含可复制代码

函数调用与结构化输出的边界:什么时候该让模型「填表」

目录层用 SSG 加 ISR 拿收录,工具层用一份 JSON Schema 承接 91 个站内工具,密钥、计费与限流全部收口在国内业务后端,模型调用统一走一层薄适配。这篇把我们真实的目录结构、Schema 字段定义、路由闸门、预扣结算伪代码和合规清单完整摊开。

陈
陈默架构组
2026-09-28 · 14 分钟阅读 · 8,432 次浏览

模型犯错时不该直接产生副作用,这是选型的底线。

两种"让模型输出结构化数据"的路线

· 路线 A:让模型填表(给它 schema,让它产出 JSON);

· 路线 B:让模型调用工具(用函数调用/工具调用,参数就是 schema)。

两者都能拿到结构化结果,但适用场景与风险不同。选错的代价通常体现在稳定性和可控性上。

什么时候该"填表"

· 任务是抽取/分类(从这段文本里取出字段),没有副作用;

· 一次要给多个字段(模型能一次看全上下文再决定);

· 结果要整体校验(字段之间有关联,如起止日期);

· 希望批处理(一次处理很多条,填表更省往返)。

什么时候该"调工具"

· 需要执行动作(查库、下单、发信),而不只是产出数据;

· 参数之间有先后依赖(先查 ID 再更新);

· 需要幂等与审计(每次调用是一条可追踪的记录);

· 需要在执行前做权限校验(工具层能拦住越权)。

一个务实的组合

"填表"负责意图,工具负责落地:

1. 让模型填一张"意图表"(动作 + 参数 + 理由);

2. 程序校验意图表(字段、范围、业务规则、权限);

3. 校验通过后,由代码按意图表去调用工具(而不是让模型直接调)。

好处:模型犯错时不会直接产生副作用;校验与审计都在一条链上;重试也更容易做。

三个常见错误

· 让模型直接执行写操作:一旦幻觉出参数,代价是真实的;

· 只校验 JSON 合法性:合法 JSON 也可能是错的业务值(金额为负、ID 不存在);

· 把工具返回塞回模型再让它填表:容易形成"模型改数据"的链路,越改越偏 —— 数据变换应交给代码。

选型检查清单

1. 这个任务是"取数据"还是"做事"?(取→填表;做→工具)

2. 参数有没有依赖与幂等要求?

3. 出错时的后果可控吗?(不可控 → 加人工确认)

4. 有没有更简单的做法?(能用规则/正则解决的,不要上模型)

本文由云枢 AI导航整理,内容以官方来源为准。

相关文章

顺序阅读

← 上一篇:多语言场景的坑:分词、时区与本地化格式
下一篇:把成本按租户摊开:单位经济模型怎么看 →

第 28 / 171 篇

术语速查 · 本页出现的 12 个词展开看中文名与一句话解释,点术语看完整条目
  • token词元:模型处理文本的最小单位,中文约 1–2 个汉字;计费与上下文长度都按它算。
  • 转写 / 字幕Transcription:把音视频人声逐句变成带时间戳的文字稿,便于做字幕与章节切分。
  • SSE服务器发送事件:服务器通过长连接持续推送增量文本,是对白逐字出现的常见实现。
  • API应用编程接口:程序之间约定的调用方式;站内工具由服务端调用,浏览器里不出现密钥。
  • CDN内容分发网络:把静态资源缓存到离用户更近的节点,缩短加载时间。
  • 缓存Cache:把结果暂存复用,复用得越多平均耗时越低;需要约定过期与刷新策略。
  • 限流Rate Limit:限制单位时间内的请求次数,防止单用户或异常流量打满服务端。
  • SSG静态站点生成:构建阶段就生成 HTML,访问时直接返回,不必每次请求都渲染。
  • ISR增量静态再生:先返回静态页,再在后台按需重新生成,兼顾速度与更新时效。
  • 灰度发布Canary Release:先让一小部分用户用新版本,确认无误再放量,出问题的爆炸半径最小。
  • 提示词Prompt:交给模型的指令文本;写清角色、任务、输入与输出格式比反复试更省。
  • 积分Credits:站内计费单位:按工具单价预扣,调用失败自动退还;单价以定价页为准。

完整解释与站内出现处见 AI 术语表(40 条)。