选型指南 架构设计 含可复制代码

多轮体验:什么时候该开新会话

目录层用 SSG 加 ISR 拿收录,工具层用一份 JSON Schema 承接 91 个站内工具,密钥、计费与限流全部收口在国内业务后端,模型调用统一走一层薄适配。这篇把我们真实的目录结构、Schema 字段定义、路由闸门、预扣结算伪代码和合规清单完整摊开。

陈
陈默架构组
2026-09-28 · 14 分钟阅读 · 8,432 次浏览

新会话只带硬约束,不带整段历史。

会话该多长,是个产品问题

多轮对话里,什么时候开新会话 ✗ 会直接影响体验与成本 ✔:

会话太长 → 上下文膨胀、旧信息干扰、成本上升 ✔;

会话太短 → 用户要反复交代背景 ✔。

默认策略要"既省心又不失控" ✔。

一、四种边界信号

1. 话题切换(用户从"改简历"跳到"算房贷" ✔)→ 建议开新会话 ✔;

2. 时间间隔(超过 N 小时/天 ✔)→ 上下文多半已失效 ✔;

3. 上下文预算逼近上限(见长会话成本那篇 ✔)→ 主动提议"另开一段继续" ✔;

4. 任务完成("好了,谢谢" ✔)→ 自然结束点,可提示"下次提问会开新会话" ✔。

二、默认行为(建议)

```

① 同一天同一话题 → 延续同一会话 ✔

② 检测到话题切换 → 提示"是否新开会话"(默认新开 ✔)

③ 超过 24 小时 → 新开会话,但保留上一会话的可查看入口 ✔

④ 预算逼近上限 → 提示并给出"继续/新开"选项 ✔

```

要点:用户可以覆盖默认 ✔("继续上次"按钮 ✔)——

自动切太硬会让人恼火 ✗(把没说完的话切断 ✔)。

三、新开会话时该带走什么

只带"硬约束" ✔(见多轮上下文那篇 ✔):用户偏好、已确认的事实、未完成待办 ✔;

不带整段历史 ✗(那等于没开新的 ✔)。

做法:新会话开头给一句"上次你在处理 X,已知 Y,要继续吗" ✔ —— 用户点一下就能接上 ✔。

四、该观测什么

· 平均会话轮数与会话成本分布(长尾会话往往贡献大部分成本 ✔);

· "上下文丢失"投诉(用户抱怨"刚说过的又忘了" ✔ —— 说明切得太早或摘要丢了关键信息 ✔);

· 重复交代率(新会话里用户重复说同一背景的比例 ✔);

· 主动新开比例(用户自己开新的比例 ✔ —— 高说明默认切分点不合适 ✔)。

五、两个反模式

· 永不切分 ✗(成本与干扰随时间累积 ✔);

· 每轮都像新会话 ✗(用户要不停重复背景 ✔)。

一条判据

> 让用户回忆上一次"需要重新交代背景"的场景 ✔,是系统切早了 ✔ 还是用户自己开新的 ✔?

> 前者多,说明切分策略太激进 ✗。

本文由云枢 AI导航整理,内容以官方来源为准。

相关文章

顺序阅读

← 上一篇:把评测接进日常:四种改动各自的检查清单
下一篇:把价格与额度讲清楚:用户最常误解的三件事 →

第 119 / 171 篇

术语速查 · 本页出现的 12 个词展开看中文名与一句话解释,点术语看完整条目
  • token词元:模型处理文本的最小单位,中文约 1–2 个汉字;计费与上下文长度都按它算。
  • 转写 / 字幕Transcription:把音视频人声逐句变成带时间戳的文字稿,便于做字幕与章节切分。
  • SSE服务器发送事件:服务器通过长连接持续推送增量文本,是对白逐字出现的常见实现。
  • API应用编程接口:程序之间约定的调用方式;站内工具由服务端调用,浏览器里不出现密钥。
  • CDN内容分发网络:把静态资源缓存到离用户更近的节点,缩短加载时间。
  • 缓存Cache:把结果暂存复用,复用得越多平均耗时越低;需要约定过期与刷新策略。
  • 限流Rate Limit:限制单位时间内的请求次数,防止单用户或异常流量打满服务端。
  • SSG静态站点生成:构建阶段就生成 HTML,访问时直接返回,不必每次请求都渲染。
  • ISR增量静态再生:先返回静态页,再在后台按需重新生成,兼顾速度与更新时效。
  • 灰度发布Canary Release:先让一小部分用户用新版本,确认无误再放量,出问题的爆炸半径最小。
  • 提示词Prompt:交给模型的指令文本;写清角色、任务、输入与输出格式比反复试更省。
  • 积分Credits:站内计费单位:按工具单价预扣,调用失败自动退还;单价以定价页为准。

完整解释与站内出现处见 AI 术语表(40 条)。