标签 · 智能体
共 12 篇 · ← 返回全部资讯
多 Agent 协作的边界:什么时候会互相打架
多 Agent 的协作成本随数量上升。本文给出值得多 Agent 的三种情况、四种常见冲突与对策(重点是「单一写入者」)、汇总层该怎么写、该观测的指标与一个务实
把工具清单做成能力目录:模型怎么知道有什么工具
工具清单越长,选择与参数填充越容易错。本文给出能力目录的八个字段(重点 when_not 与 side_effects)、分层组织方式、按任务动态给候选的做法、
检索与生成的分工契约:谁负责什么
RAG 扯皮源于没有分工契约。本文给出检索侧与生成侧各三项承诺、一张失败归因规则表、验证契约是否生效的分段指标与契约测试,以及两个常见反模式。
AI 功能的权限模型:能做与不能做要显式声明
能力边界写在提示词里等于靠模型自觉。本文给出能力矩阵的写法、三层防线(参数/权限/确认)、拒绝要说清原因、审计与最小权限,以及三个常见漏洞与一条越权用例判据。
工具返回值要按「给人看」设计:结构化、摘要与溯源
工具返回一大坨 JSON,模型抓不到重点。本文给出结构化字段规范、人类可读摘要的做法与校验、溯源三要素(trace/版本/来源)、工具描述该写什么,以及三个反模
把工具调用做成可观测的:日志、回放与重试
工具调用出错可能藏在参数、时序、权限与幂等里。本文给出该记的 10 项日志、离线回放的做法、重试的三条边界、四个该报警的指标与最小落地顺序。
多模型路由:把成本花在刀刃上
多模型路由让不同难度的请求走不同档位。本文给出三个可度量判据、三种实现(规则/分类器/级联)与各自代价、兜底与抽检要求,以及该观测的指标与落地顺序。
函数调用与结构化输出的边界:什么时候该让模型「填表」
让模型输出结构化数据有两条路线:填表与调工具。本文给出各自的适用场景、一个务实的组合方式(模型填意图表、代码去落地)、三个常见错误与选型检查清单。
智能体的记忆分层:短期、长期与共享
智能体的记忆应分三层:会话内的短期、跨会话的长期、跨任务的共享。本文给出各层的管理手段、写入与读取纪律、四个常见错误与落地顺序。
智能体的工具该怎么设计:少而准,可回滚,有边界
给智能体接工具时,最常见的问题是工具太多、太宽、没有边界。本文讲清工具设计的四条原则、参数设计的具体做法,以及为什么写操作必须有幂等、回滚与二次确认。
提示词注入是怎么回事:把用户输入当「数据」而不是「指令」
提示词注入无法靠「让模型更听话」根治,因为它本质是数据与指令混在同一个通道。本文讲清三类常见注入路径,以及工程上真正有效的四类缓解措施与它们的边界。
Anthropic 发布 Model Hardware Standard 预览版
Anthropic 推出了 Model Hardware Standard (MHS),宣称能够将硬件集成时间从数周或数月缩短至几小时甚至几分钟,并支持AI代理