切分是检索质量的源头:切错了,后面再好的模型也只能在错的候选里挑。
为什么切分影响这么大
检索的基本单位就是「块」。块太大,一次召回会把大量无关内容带进上下文,模型容易答偏,也浪费上下文预算;块太小,一句「如上所述」脱离前提,检索到也没法用。
三种主流做法
固定长度切分(例如每 500 字一块,重叠 50 字)
· 优点:实现最简单,任何文本都能切,块大小可控;
· 缺点:会在句子中间断开,标题与正文可能分家;
· 适用:格式杂乱的原始文本、日志、转录稿。
按结构切分(按标题层级、按段落、按列表项)
· 优点:块与人的阅读单位一致,检索命中后上下文自洽;
· 缺点:依赖文档本身有清晰结构,长段落仍需再切;
· 适用:技术文档、说明书、有规范标题的手册。
按语义切分(按语义相似度找「话题转折点」再切)
· 优点:块内主题一致性最好,长文效果通常最好;
· 缺点:需要额外一次向量计算,成本与延迟都更高,切点也不完全可预测;
· 适用:长文、访谈、没有明显结构的叙述性内容。
可落地的默认选择
多数项目用「先按结构、结构内再按长度」的两段式最划算:
1. 先按标题切成大段,把标题文本一并写进块内(检索时标题往往是最强的信号);
2. 大段超过阈值(常见 600~1000 字)再按句子边界切,保留 10%~15% 重叠;
3. 块内保留来源标识(文档名、章节号),便于回答时给出处。
三个容易忽略的细节
· 重叠不是越多越好:重叠会放大索引体积,也会让同一内容被多次召回,取 10%~15% 通常够;
· 切分要与检索方式匹配:用混合检索时,两路必须共用同一套块,否则合并去重会失效;
· 表格与代码块单独处理:按字切会把表格切碎,最好整块保留或转成结构化描述。
怎么验证切分是否合适
不要凭感觉。挑 20~50 条真实查询,逐条看「该段落的块是否出现在前 K 条里」,统计命中率;再挑切得最差的几条回去看原始文本,通常一眼就能看出是切分问题还是检索问题。切分调整的收益,往往比换更贵的重排模型更明显。
本文由云枢 AI导航整理,内容以官方来源为准。
相关文章
顺序阅读
← 上一篇:混合检索为什么比纯向量检索更稳:关键词与向量的分工
下一篇:模型为什么会「编」:三类幻觉成因与可落地的抑制手段 →
第 3 / 171 篇