选型指南 架构设计 含可复制代码

长文摘要流水线:切分、归并、校验、成稿

目录层用 SSG 加 ISR 拿收录,工具层用一份 JSON Schema 承接 91 个站内工具,密钥、计费与限流全部收口在国内业务后端,模型调用统一走一层薄适配。这篇把我们真实的目录结构、Schema 字段定义、路由闸门、预扣结算伪代码和合规清单完整摊开。

陈
陈默架构组
2026-09-28 · 14 分钟阅读 · 8,432 次浏览

宁可写「未提及」,也不允许出现原文没有的判断。

长文摘要不是"调一次模型"

把一份 80 页的报告总结成一页,单次调用通常做不到(超上下文、丢中段、格式不稳)。要做成流水线:

切分 → 分段摘要 → 归并 → 校验 → 成稿

一、切分与分段摘要

· 按章节结构切(有标题就按标题,别按固定字数硬切);

· 每段摘要要带定位(第几节/第几页),否则后续无法回溯;

· 摘要保留关键数字与原话(金额、条款、结论),不要只留形容词;

· 段落摘要长度设上限(否则归并阶段又超长)。

二、归并(分层的)

· 摘要数量 > 8 条时二次归并(把摘要再分组,组内归并,再总归并);

· 归并要求:去重(同一事实在多段出现只留一次)、保序(按原文顺序)、标注来源;

· 归并阶段最容易"越写越抽象",所以要求"每条结论后附来源段落编号"。

三、校验(比生成更重要)

· 数字校验:成稿里出现的每个数字,必须能在原文中找到(程序自动比对);

· 覆盖校验:原文的关键章节是否都有体现(允许有"本章无重要结论"的显式说明);

· 长度与格式:符合约定(一页 = 多少字、几级标题);

· 禁止推断:成稿里不允许出现原文没有的判断(宁可写"未提及")。

四、成稿与引用

· 结论在前、细节在后(用户先要结论);

· 每条结论尽量附来源编号,便于人回查;

· 明确写出局限(哪些部分材料缺失、哪些结论不充分)。

流水线的工程细节

· 幂等:同输入必出同输出(缓存与重跑依赖它);

· 断点续跑:分段摘要是最贵的一步,结果要落盘,失败从断点继续;

· 可观测:每段用了多少 token、花了多少时间、失败了几次;

· 可回滚:摘要与成稿都留版本,出问题能退回上一版。

怎么验收

抽 10 份真实长文,人工核对三件事:

1. 关键数字是否全部在成稿里且正确;

2. 有没有编造(原文没有的判断);

3. 一页成稿读完,没有读过原文的人能否抓住要点。

第 1、2 条可以程序化抽检(数字比对 + 人工看推断句),第 3 条必须人看。

本文由云枢 AI导航整理,内容以官方来源为准。

相关文章

顺序阅读

← 上一篇:LLM 的缓存怎么做:三层缓存与三类不要缓存
下一篇:把用户反馈做成闭环:收集、分类、归因、回归 →

第 38 / 171 篇

术语速查 · 本页出现的 12 个词展开看中文名与一句话解释,点术语看完整条目
  • token词元:模型处理文本的最小单位,中文约 1–2 个汉字;计费与上下文长度都按它算。
  • 转写 / 字幕Transcription:把音视频人声逐句变成带时间戳的文字稿,便于做字幕与章节切分。
  • SSE服务器发送事件:服务器通过长连接持续推送增量文本,是对白逐字出现的常见实现。
  • API应用编程接口:程序之间约定的调用方式;站内工具由服务端调用,浏览器里不出现密钥。
  • CDN内容分发网络:把静态资源缓存到离用户更近的节点,缩短加载时间。
  • 缓存Cache:把结果暂存复用,复用得越多平均耗时越低;需要约定过期与刷新策略。
  • 限流Rate Limit:限制单位时间内的请求次数,防止单用户或异常流量打满服务端。
  • SSG静态站点生成:构建阶段就生成 HTML,访问时直接返回,不必每次请求都渲染。
  • ISR增量静态再生:先返回静态页,再在后台按需重新生成,兼顾速度与更新时效。
  • 灰度发布Canary Release:先让一小部分用户用新版本,确认无误再放量,出问题的爆炸半径最小。
  • 提示词Prompt:交给模型的指令文本;写清角色、任务、输入与输出格式比反复试更省。
  • 积分Credits:站内计费单位:按工具单价预扣,调用失败自动退还;单价以定价页为准。

完整解释与站内出现处见 AI 术语表(40 条)。