选型指南 架构设计 含可复制代码

检索质量差,先别怪模型:文档解析与切分的五个检查点

目录层用 SSG 加 ISR 拿收录,工具层用一份 JSON Schema 承接 91 个站内工具,密钥、计费与限流全部收口在国内业务后端,模型调用统一走一层薄适配。这篇把我们真实的目录结构、Schema 字段定义、路由闸门、预扣结算伪代码和合规清单完整摊开。

陈
陈默架构组
2026-09-28 · 14 分钟阅读 · 8,432 次浏览

先把文档弄对,再谈模型。

先别急着换模型

检索效果差,很多时候问题不在向量模型,而在文档本身进了错误的形态:PDF 解析丢了表格、标题层级被压平、一段话被切成半句。

这些错误一旦进入索引,后面用什么模型都救不回来。先做下面五个检查点。

检查点一:解析是否忠实

· 表格是否还在(很多解析器把表格压成一行文本,行列关系全丢);

· 标题层级是否保留(用于后续按结构切分);

· 页码/页眉/页脚是否被误当正文(噪声会污染检索);

· 公式、代码块是否保留原始形态。

做法:抽 20 页人工比对解析结果与原文,统计"信息丢失/错位"的比例。这个数字比任何模型指标都先要过关。

检查点二:切分是否保住语义

· 不要按固定字数硬切;优先按标题、段落、列表切;

· 长段落再按句子切,并保留上下文重叠(一般 10%~20%);

· 表格与代码块尽量整块保留,不要横切;

· 每块带上"来源路径"(文档标题 → 章 → 节),便于引用与回溯。

检查点三:块的大小分布

统计每块的字数分布:如果出现大量 20 字以下的小块(碎片)或上万字的巨块,检索都会变差。

经验区间:200~800 字为主,碎片合并、巨块再切。

检查点四:元数据是否够用

检索常常需要先筛后搜:"只看 2024 年之后的、只看 A 产品的"。

块上要带可筛选字段(时间、来源、分类、版本),否则只能靠相似度硬碰。

检查点五:检索结果能不能被引用

· 命中块要能回到原文位置(章节锚点或页码);

· 块内不要有多余的解析残留(页眉重复、断行错乱);

· 引用时展示原文片段,而不是模型改写。

一个最小验收流程

1. 抽 20 页比对解析忠实度;

2. 抽查 30 个块的切分质量(是否半句、是否丢标题);

3. 画块长度分布图;

4. 用 20 个真实问题测召回,先看命中块对不对,再谈答案好不好;

5. 记录每一次解析器/切分规则的变更与对应指标。

本文由云枢 AI导航整理,内容以官方来源为准。

相关文章

顺序阅读

← 上一篇:把 AI 输出接到业务系统:三种接线方式与各自代价
下一篇:AI 功能的埋点与看板:该记录哪些字段 →

第 17 / 171 篇

术语速查 · 本页出现的 12 个词展开看中文名与一句话解释,点术语看完整条目
  • token词元:模型处理文本的最小单位,中文约 1–2 个汉字;计费与上下文长度都按它算。
  • 转写 / 字幕Transcription:把音视频人声逐句变成带时间戳的文字稿,便于做字幕与章节切分。
  • SSE服务器发送事件:服务器通过长连接持续推送增量文本,是对白逐字出现的常见实现。
  • API应用编程接口:程序之间约定的调用方式;站内工具由服务端调用,浏览器里不出现密钥。
  • CDN内容分发网络:把静态资源缓存到离用户更近的节点,缩短加载时间。
  • 缓存Cache:把结果暂存复用,复用得越多平均耗时越低;需要约定过期与刷新策略。
  • 限流Rate Limit:限制单位时间内的请求次数,防止单用户或异常流量打满服务端。
  • SSG静态站点生成:构建阶段就生成 HTML,访问时直接返回,不必每次请求都渲染。
  • ISR增量静态再生:先返回静态页,再在后台按需重新生成,兼顾速度与更新时效。
  • 灰度发布Canary Release:先让一小部分用户用新版本,确认无误再放量,出问题的爆炸半径最小。
  • 提示词Prompt:交给模型的指令文本;写清角色、任务、输入与输出格式比反复试更省。
  • 积分Credits:站内计费单位:按工具单价预扣,调用失败自动退还;单价以定价页为准。

完整解释与站内出现处见 AI 术语表(40 条)。