资讯 · 第 13 页

检索质量差，先别怪模型：文档解析与切分的五个检查点

检索效果差常源于文档形态错误：表格丢失、标题压平、半句切分。本文给出五个检查点（解析忠实度、切分语义、块大小分布、元数据、可引用性）与最小验收流程。

把 AI 输出接到业务系统：三种接线方式与各自代价

AI 结果进业务系统有三种接线方式，代价差别很大。本文给出选型依据、校验该写成什么样、幂等与去重的做法、可回滚设计，以及上线前的检查清单。

多轮对话的上下文管理：摘要、锚点与按需检索

长对话里模型忘记前文，本质是上下文管理问题。本文讲清滚动摘要、关键事实锚点表、按需检索历史三种手段，以及该丢什么、该留什么与该测什么。

提示词版本管理：把提示词当代码来管

提示词散落在文档与聊天记录里，出问题就无法归因。本文给出五件必做事（进版本库、带版本号、参数化、配评测集、灰度发布）、目录结构建议与常见反模式。

给 AI 功能做降级设计：上游挂了，用户还能用

线上 AI 功能最常见的故障是上游不可用。本文给出四层降级（重试切换、换小模型、规则兜底、明确不可用）、三条常见误区，以及把降级写进产品与监控的具体做法。

响应慢在哪里：把首字延迟与总时长分开优化

用户感知的慢，往往拆成首字延迟与生成速度两部分。本文给出各自的成因、该测的指标与优化手段，并说明流式输出、并行前置与缓存分别改善哪一段。

智能体的工具该怎么设计：少而准，可回滚，有边界

给智能体接工具时，最常见的问题是工具太多、太宽、没有边界。本文讲清工具设计的四条原则、参数设计的具体做法，以及为什么写操作必须有幂等、回滚与二次确认。

让模型稳定输出 JSON：约束、校验与重试的工程做法

结构化输出不稳定，多半不是模型问题，而是缺少约束与校验。本文给出三层做法：形态约束、程序校验、失败重试，并说明为什么不该把模型的原始输出直接喂给下游。

评测集怎么建才可信：抽样、标注与回归三道关

评测集的质量决定优化方向。本文讲清三道关：抽样要覆盖真实分布、标注要定义清楚、回归要固定不变；并给出小团队也能落地的规模与流程建议。

批量推理怎么降本：缓存、批处理与路由的叠加顺序

降本手段有先后：先用缓存把重复请求消灭，再用批处理摊薄单价，最后才考虑换更便宜的模型。本文给出可执行的顺序与各自的适用边界，并说明哪些「省法」会伤质量。

上下文窗口不是越大越好：长上下文里的「中间遗忘」与应对

把资料全塞进超长上下文，常常不如少而准地检索。本文讲清「中间遗忘」现象、它在工程上的表现，以及定位信息、分块摘要、分段提问三类可落地做法。

提示词注入是怎么回事：把用户输入当「数据」而不是「指令」

提示词注入无法靠「让模型更听话」根治，因为它本质是数据与指令混在同一个通道。本文讲清三类常见注入路径，以及工程上真正有效的四类缓解措施与它们的边界。

向量索引怎么选：HNSW、IVF 与量化索引的取舍

向量检索的性能瓶颈通常在索引而不是模型。本文对比 HNSW、IVF 与量化三类索引的取舍，给出按数据规模选型的判断顺序，并说明「先过滤再检索」为何容易踩坑。

模型为什么会「编」：三类幻觉成因与可落地的抑制手段

把幻觉当成单一故障会修错方向。本文按「知识缺失 / 上下文冲突 / 任务越界」三类成因拆开，各给可落地的抑制手段，并说明哪些手段只是把错误变成「不确定」。

RAG 的切分策略怎么选：固定长度、按标题、按语义的取舍

切分粒度太粗会把无关内容一起塞进上下文，太细又会让一句话脱离前提。本文对比固定长度、按标题层级、按语义三种做法，给出选择依据与可落地的默认值。

混合检索为什么比纯向量检索更稳：关键词与向量的分工

纯向量检索擅长语义相近，但对精确术语、编号、罕见词容易漏；关键词检索（BM25）恰好相反。把两路结果合并再重排，能同时覆盖这两类查询。本文讲清分工、合并方式与常

语音模型跨语言表现的关键变量：语言判别能力

研究发现语言判别能力与多语言语音模型的跨语言表现强相关：判别更准的模型在转写与语义理解上同时更好，这为工程改进指出了具体位置。