标签 · 上下文
共 14 篇 · ← 返回全部资讯
长结果的呈现:分层、截断与续写
长结果一次全倒出来有三个问题。本文给出四层呈现(摘要/要点/正文/来源)、三种截断策略、三个体验细节与和 token 上限的关系。
把多轮改写做顺:只改该改的,别丢已改的
真实使用是多轮微调。本文给出四个体验要点(增量理解/保留修改/只改指定部分/可回退)、实现上的三个关键(以当前版本为基线、明确指令、版本链)与该观测的四个指标。
把上下文当缓存来管:前缀稳定与命中率
前缀缓存能把成本与延迟显著降下来。本文给出前缀缓存的基本规律、四个落地技巧、该观测的三个指标、三个常见坑与一份检查清单。
多轮体验:什么时候该开新会话
会话边界直接影响体验与成本。本文给出四种边界信号、建议的默认行为(用户可覆盖)、新会话该带走的硬约束、该观测的四个指标与两个反模式。
多 Agent 协作的边界:什么时候会互相打架
多 Agent 的协作成本随数量上升。本文给出值得多 Agent 的三种情况、四种常见冲突与对策(重点是「单一写入者」)、汇总层该怎么写、该观测的指标与一个务实
上下文里的示例变成数据:小心少样本污染
示例会被模型当成可用素材。本文给出四个防护手段(显式标记、内容中立、顺序、后处理校验)、最容易污染的四种情形、与拒答的关系与验证方法。
AI 功能的状态与恢复:会话中断了怎么办
用户会关页面、断网、切 App。本文给出三类状态(会话/任务/草稿)的分开处理与恢复方式、恢复时要告诉用户什么、五个容易做错的点、该测的四个指标与一个最小实现。
检索里的否定与例外:别让模型只看到一半
检索倾向于召回支持性片段,漏掉否定与例外,导致过度概括。本文给出三类易漏内容、三种做法(切分不切断条件从句、条件词扩展、邻居召回)、提示词的防守写法与怎么测这件
长会话的成本控制:摘要频率与预算联动
多轮对话的 token 消耗超线性增长。本文给出会话级预算、三种摘要触发策略与推荐组合、摘要该保留什么、三个联动规则、该观测的四个指标与四个反模式。
把上下文做成可组装的:模板化提示词工程
上下文不该是拼字符串。本文给出六个标准组件与顺序建议、三条边界纪律(数据与指令分开、组件可开关、体积预算)、组装器职责、三个常见错误与验证方法。
对话式产品的空状态:怎么让用户问对问题
对话产品的第一道坎是用户不知道能问什么。本文给出空状态该做的四件事、示例问题的选法、引导追问的三个技巧,以及用三个指标验证空状态是否有效的方法。
智能体的记忆分层:短期、长期与共享
智能体的记忆应分三层:会话内的短期、跨会话的长期、跨任务的共享。本文给出各层的管理手段、写入与读取纪律、四个常见错误与落地顺序。
多轮对话的上下文管理:摘要、锚点与按需检索
长对话里模型忘记前文,本质是上下文管理问题。本文讲清滚动摘要、关键事实锚点表、按需检索历史三种手段,以及该丢什么、该留什么与该测什么。
上下文窗口不是越大越好:长上下文里的「中间遗忘」与应对
把资料全塞进超长上下文,常常不如少而准地检索。本文讲清「中间遗忘」现象、它在工程上的表现,以及定位信息、分块摘要、分段提问三类可落地做法。