选型指南 架构设计 含可复制代码

RAG 的切分策略怎么选:固定长度、按标题、按语义的取舍

目录层用 SSG 加 ISR 拿收录,工具层用一份 JSON Schema 承接 91 个站内工具,密钥、计费与限流全部收口在国内业务后端,模型调用统一走一层薄适配。这篇把我们真实的目录结构、Schema 字段定义、路由闸门、预扣结算伪代码和合规清单完整摊开。

陈
陈默架构组
2026-09-28 · 14 分钟阅读 · 8,432 次浏览

切分是检索质量的源头:切错了,后面再好的模型也只能在错的候选里挑。

为什么切分影响这么大

检索的基本单位就是「块」。块太大,一次召回会把大量无关内容带进上下文,模型容易答偏,也浪费上下文预算;块太小,一句「如上所述」脱离前提,检索到也没法用。

三种主流做法

固定长度切分(例如每 500 字一块,重叠 50 字)

· 优点:实现最简单,任何文本都能切,块大小可控;

· 缺点:会在句子中间断开,标题与正文可能分家;

· 适用:格式杂乱的原始文本、日志、转录稿。

按结构切分(按标题层级、按段落、按列表项)

· 优点:块与人的阅读单位一致,检索命中后上下文自洽;

· 缺点:依赖文档本身有清晰结构,长段落仍需再切;

· 适用:技术文档、说明书、有规范标题的手册。

按语义切分(按语义相似度找「话题转折点」再切)

· 优点:块内主题一致性最好,长文效果通常最好;

· 缺点:需要额外一次向量计算,成本与延迟都更高,切点也不完全可预测;

· 适用:长文、访谈、没有明显结构的叙述性内容。

可落地的默认选择

多数项目用「先按结构、结构内再按长度」的两段式最划算:

1. 先按标题切成大段,把标题文本一并写进块内(检索时标题往往是最强的信号);

2. 大段超过阈值(常见 600~1000 字)再按句子边界切,保留 10%~15% 重叠;

3. 块内保留来源标识(文档名、章节号),便于回答时给出处。

三个容易忽略的细节

· 重叠不是越多越好:重叠会放大索引体积,也会让同一内容被多次召回,取 10%~15% 通常够;

· 切分要与检索方式匹配:用混合检索时,两路必须共用同一套块,否则合并去重会失效;

· 表格与代码块单独处理:按字切会把表格切碎,最好整块保留或转成结构化描述。

怎么验证切分是否合适

不要凭感觉。挑 20~50 条真实查询,逐条看「该段落的块是否出现在前 K 条里」,统计命中率;再挑切得最差的几条回去看原始文本,通常一眼就能看出是切分问题还是检索问题。切分调整的收益,往往比换更贵的重排模型更明显。

本文由云枢 AI导航整理,内容以官方来源为准。

相关文章

顺序阅读

← 上一篇:混合检索为什么比纯向量检索更稳:关键词与向量的分工
下一篇:模型为什么会「编」:三类幻觉成因与可落地的抑制手段 →

第 3 / 171 篇

术语速查 · 本页出现的 12 个词展开看中文名与一句话解释,点术语看完整条目
  • token词元:模型处理文本的最小单位,中文约 1–2 个汉字;计费与上下文长度都按它算。
  • 转写 / 字幕Transcription:把音视频人声逐句变成带时间戳的文字稿,便于做字幕与章节切分。
  • SSE服务器发送事件:服务器通过长连接持续推送增量文本,是对白逐字出现的常见实现。
  • API应用编程接口:程序之间约定的调用方式;站内工具由服务端调用,浏览器里不出现密钥。
  • CDN内容分发网络:把静态资源缓存到离用户更近的节点,缩短加载时间。
  • 缓存Cache:把结果暂存复用,复用得越多平均耗时越低;需要约定过期与刷新策略。
  • 限流Rate Limit:限制单位时间内的请求次数,防止单用户或异常流量打满服务端。
  • SSG静态站点生成:构建阶段就生成 HTML,访问时直接返回,不必每次请求都渲染。
  • ISR增量静态再生:先返回静态页,再在后台按需重新生成,兼顾速度与更新时效。
  • 灰度发布Canary Release:先让一小部分用户用新版本,确认无误再放量,出问题的爆炸半径最小。
  • 提示词Prompt:交给模型的指令文本;写清角色、任务、输入与输出格式比反复试更省。
  • 积分Credits:站内计费单位:按工具单价预扣,调用失败自动退还;单价以定价页为准。

完整解释与站内出现处见 AI 术语表(40 条)。