检索做得好,业务就一定会好吗
不一定 ✔。检索质量是中间指标 ✔,业务结果是最终指标 ✔,两者之间隔着一层:
用户是否采纳、是否因此少打了一个电话、是否更快解决问题 ✔。
把中间指标接到业务指标 ✔,才能回答"这套投入值不值" ✔。
一、先画一条链(四层)
① 检索层:召回率、命中位次、片段质量 ✔
② 答案层:正确率、引用一致率、该拒答却作答率 ✔
③ 使用层:采纳率、修改率、追问率、转人工率 ✔
④ 业务层:处理时长、一次解决率、成本/单、满意度 ✔
每层都要有指标 ✗→✔:只测第 ① 层,无法判断投入价值 ✔;
只测第 ④ 层,出了问题无法归因 ✔。
二、四层之间的"假设"要写下来
例如 ✔:
假设:召回率提升 10 个点 → 答案正确率提升 5 个点
→ 采纳率提升 3 个点 → 平均处理时长下降 8%
写下来才能验证 ✔(见对照实验那篇 ✔);不写下来,就只能在汇报时"感觉有提升" ✗。
三、怎么验证(别只看相关性)
- 逐层看变化(召回涨了但答案没涨 → 说明瓶颈不在检索 ✔);
- 做小规模对照(A/B 或前后对比,含区间 ✔);
- 看"采纳率"这类使用层指标(它比满意度更客观 ✔);
- 业务层要有基线(改之前先量一遍 ✔ —— 否则无法比较 ✔)。
四、两个常见误判
- 过度优化中间指标 ✗(召回从 85% 提到 92%,但用户感知没变 ✔)→ 该停下来 ✔;
- 只看业务指标 ✗(业务波动受很多因素影响,无法归因到检索 ✔)。
平衡点:中间指标做日常优化向导 ✔,业务指标做季度价值判断 ✔。
五、一个务实起点
① 先把"采纳率"量出来(用户是否用了 AI 给的结果 ✔)—— 最容易也最有说服力
② 再把"处理时长"或"一次解决率"量出来(业务基线 ✔)
③ 然后才有资格说"检索优化带来的价值" ✔
一条判据
你能否说出"召回率提升 X 个点,对应业务指标变化 Y" ✔?
说不出,说明指标链还没打通 ✗(投入价值无法证明 ✔)。