选型指南 架构设计 含可复制代码

把长任务做成可恢复:断点、幂等与进度可见

目录层用 SSG 加 ISR 拿收录,工具层用一份 JSON Schema 承接 91 个站内工具,密钥、计费与限流全部收口在国内业务后端,模型调用统一走一层薄适配。这篇把我们真实的目录结构、Schema 字段定义、路由闸门、预扣结算伪代码和合规清单完整摊开。

陈
陈默架构组
2026-09-28 · 14 分钟阅读 · 8,432 次浏览

先拆步落盘,其余收益都建立在这一步上。

长任务的三个必备能力

生成一份长报告、批量处理上千条数据、跑多轮工具调用——这类长任务失败是常态。

要让用户敢用,必须具备三件事:可恢复、幂等、进度可见。

一、可恢复(断点续跑)

· 把任务拆成可独立完成的步骤,每步产出一个可持久化的中间结果;

· 记录"已完成到第几步"(检查点),失败后从检查点继续,而不是从头再来;

· 中间结果要落盘(数据库/对象存储),不要只留在内存里;

· 检查点要带输入指纹:输入变了就不能复用旧中间结果,否则会错。

实践上最有价值的一条:让每一步都能单独重跑(本地也能重跑),调试与恢复都靠它。

二、幂等(重复执行不出错)

长任务必然遇到重试与并发,幂等是底线:

· 每步用业务唯一键(不是随机 id)作为幂等键;

· 写操作采用 upsert 语义;

· 外部副作用(发信、扣费、调用第三方)放到最后,或用"先记录意图、再执行、再确认"的两阶段方式;

· 允许"至少执行一次",但保证"结果一致"。

三、进度可见

· 对外暴露阶段(准备 → 处理 12/50 → 汇总)而不是一个转圈;

· 阶段名称要人话("正在解析第 3 份文件"比 "processing" 有用);

· 提供已用时与预计剩余(粗一点没关系,关键是"在动");

· 失败时给出明确的失败点与可执行的建议(重试 / 跳过 / 人工处理)。

常见的四个错

· 全部放在一个 HTTP 请求里跑(超时、断连就全丢);

· 中间结果只存内存(进程一重启前功尽弃);

· 无幂等键 → 重试后数据翻倍;

· 进度只写日志不返回给前端(用户不知道在动,只好反复点重试 → 加重负载)。

落地顺序

1. 先把任务拆步并落盘中间结果(这一步收益最大);

2. 加幂等键与 upsert;

3. 暴露阶段进度与失败点;

4. 加一个"从检查点恢复"的按钮,并演练一次真恢复。

本文由云枢 AI导航整理,内容以官方来源为准。

相关文章

顺序阅读

← 上一篇:AI 功能的 A/B 测试怎么做才可信
下一篇:多租户下的配额与限流:别让一个用户拖垮所有人 →

第 20 / 171 篇

术语速查 · 本页出现的 12 个词展开看中文名与一句话解释,点术语看完整条目
  • token词元:模型处理文本的最小单位,中文约 1–2 个汉字;计费与上下文长度都按它算。
  • 转写 / 字幕Transcription:把音视频人声逐句变成带时间戳的文字稿,便于做字幕与章节切分。
  • SSE服务器发送事件:服务器通过长连接持续推送增量文本,是对白逐字出现的常见实现。
  • API应用编程接口:程序之间约定的调用方式;站内工具由服务端调用,浏览器里不出现密钥。
  • CDN内容分发网络:把静态资源缓存到离用户更近的节点,缩短加载时间。
  • 缓存Cache:把结果暂存复用,复用得越多平均耗时越低;需要约定过期与刷新策略。
  • 限流Rate Limit:限制单位时间内的请求次数,防止单用户或异常流量打满服务端。
  • SSG静态站点生成:构建阶段就生成 HTML,访问时直接返回,不必每次请求都渲染。
  • ISR增量静态再生:先返回静态页,再在后台按需重新生成,兼顾速度与更新时效。
  • 灰度发布Canary Release:先让一小部分用户用新版本,确认无误再放量,出问题的爆炸半径最小。
  • 提示词Prompt:交给模型的指令文本;写清角色、任务、输入与输出格式比反复试更省。
  • 积分Credits:站内计费单位:按工具单价预扣,调用失败自动退还;单价以定价页为准。

完整解释与站内出现处见 AI 术语表(40 条)。