资讯 · 第 10 页
最新AI行业动态和科技趋势 · 共 237 篇 · 第 10 / 14 页
灰度期间盯什么:四组指标与写死的回滚阈值
灰度只看错误率会漏掉质量与成本退化。本文给出四组指标(可用性/质量/成本/影响面)与建议回滚阈值、事先写死判据、阶梯节奏与自动检查、三个反模式与可直接抄的上线判
把检索片段喂给模型之前:去噪、排序与压缩
检索结果不能直接塞给模型。本文给出喂之前的三道处理(去噪、排序、压缩)、给模型的呈现格式、该观测的四个指标(含误删率与上下文命中率),以及一条判据。
把检索结果做成可筛选的:时间、来源、类型与权限
只靠相似度会搜出过期与越权内容。本文给出四个必备筛选维度、为什么权限必须在检索层(展示层隐藏会导致模型复述泄露)、筛选的可见性与解释,以及三个常见坑与落地顺序。
小团队怎么排 AI 需求的优先级:四象限与一个否决项
AI 需求最容易失控在范围。本文给出按「价值确定性 × 实现成本」的四象限、判断价值确定性的三件事、一个否决项(错了会怎样)、三个实操建议、排期文档的四栏与季度
把「不确定性」传给下游:置信、区间与拒答
AI 输出天然不确定,不传出去下游只能猜。本文给出三种表达粒度、该显式区分的四种状态、数值要给区间、拒答要写「怎样能成功」,以及三个反模式与一条判据。
用线上反馈改进系统:回填成评测与标注资产
线上反馈是最便宜的高质量数据,但默认是散的。本文给出可回填的三类资产、五步回填流程(采样/确认/脱敏/入库/闭环)、避免评测集被线上污染的分区做法与四个常见错误
检索的「新鲜度」治理:增量索引与过期标注
只在一开始读一遍文档,检索会逐渐给过期答案。本文给出增量索引的四个要点、过期标注的四种做法、该观测的三个指标(索引滞后/过期命中/删除残留)、两个常见坑与落地顺
把「人工兜底」设计好:什么时候转人、转给谁
转人工最容易被做坏。本文给出四条转人判据、交接单该带的六项信息、要告诉用户的四件事、值班排班要点与三个反模式,以及一条「不用重讲」的判据。
处理长尾输入:白名单、兜底与礼貌地拒绝
长尾输入是事故入口。本文给出三类白名单(格式/大小/字段)、四步兜底(规范化、截断并标注、降级、明确失败)、拒绝文案的改写对照、该观测的指标与一条判据。
AI 功能的灰度开关设计:谁、什么时候、怎么关
上线是一组开关:总开关、版本切换、降级、流量比例、白名单、单请求上限。本文给出六类开关与作用、四条设计要求、权限划分、五个反模式与可直接抄的上线前检查清单。
把评测结果做成能看懂的报表:三张图与三条纪律
评测扎实但决策者看不懂,等于没做。本文给出给决策者的三张图(质量趋势、改动对照、成本-质量散点)、三条呈现纪律与一份报告的最小结构。
如何在内部推动 AI 工程规范:从门禁开始
规范推不动常因为缺少自动反馈。本文给出把规范拆成可检查项的方法、阻断与提醒两级、让规范顺手的三种做法(脚手架/一键检查/报错给修法)、用数据说明价值与三条经验。
服务降级时的用户体验:把「抱歉」写成有用的提示
大多数失败提示都写错了。本文给出提示该回答的三个问题、按降级层级给不同提示、让提示可操作的三个技巧、错误信息里不该出现的东西,以及用五个状态走查验证提示的方法。
把检索质量做成可回归的:黄金集与定期抽样
检索质量会随文档、切分、模型、索引悄悄退化。本文给出黄金集的做法(20~50 题、冻结、覆盖查询类型)、每次必跑的三个指标、定期从真实流量抽样的流程、四种常见退
AI 功能的需求评审:先问这七个问题
AI 需求常写成「用大模型完成 X」,这不是需求。本文给出评审必问的七个问题(输入/判定标准/后果/合规/评测/预算/降级)、三个反模式与该产出的五样东西。
把提示词与数据版本绑在一起:可复现的一次调用
结果不一致通常源于模型、提示词或数据变了。本文给出可复现调用要记录的四组信息、调用指纹的做法与用途、缓存键与指纹的关系、在评测与复盘中的用法与落地顺序。
推理成本与「思考长度」:该在哪儿设上限
把思考长度拉满往往成本翻倍而收益有限。本文给出两类预算(token 与时限)、按任务分层的额度建议、思考被截断时的三种处置、该观测的四个指标与三条纪律。
模型换代怎么迁:对照、灰度与回滚
模型换代要当成正式变更:先冻结评测集与基线、准备提示词适配与回滚方案,再离线对照、影子双跑、按风险灰度,最后保留旧路径一段时间。本文给出四坑与可直接抄的上线判据