Skip to main content

代币预算管理与正常停止

更新 2026-10-08 5 分钟阅读 在 GitHub 上编辑 ↗

深入讨论代币经济学四层结构中的 D 层 — 预算防御(Budget defense)。涵盖当代理到达上下文窗口极限时会话如何无损停止、保存进度使下一个会话可以接续的正常中止(graceful abort)机制。

平台基础
平台层的背景说明见 上下文窗口。本页是 MoAI-ADK 视角的说明。

预算防御的必要性

Anthropic SSE 流在上下文窗口天花板附近会间歇性停顿(stream_idle_partial)。这是概率性的但在阈值以上可预测。停顿发生时代理调用可能在流中途失败,从而丢失进度。

预算防御主动解决这个问题。在上下文使用量到达阈值前,系统执行正常中止,确保会话无损地转移到下一步。

各模型的上下文阈值

操作阈值因模型而异。更大的窗口允许更高的百分比利用率;更小的窗口在百分比上较晚到达操作天花板但绝对余量更少。

模型类别窗口交接阈值绝对天花板
Opus 5.5 (1M)1,000,000 代币50%~500,000 代币
GLM-5.3 (1M)1,000,000 代币50%~500,000 代币
Fable / Sonnet 5.5 (1M)1,000,000 代币50%~500,000 代币
Sonnet 4.5 及更早 (200K)200,000 代币90%~180,000 代币
Haiku 5.5 (1M)1,000,000 代币50%~500,000 代币
Haiku (200K)200,000 代币90%~180,000 代币

Haiku 5.5 行(Claude Code v2.1.293+,Anthropic API)请与上面的规则一起阅读 —— 当会话同时命中 1M 行 和 200K 会话行时,200K 行优先。在 AWS Bedrock、GCP Agent Platform、Microsoft Foundry 上,haiku 别名仍解析为 Haiku 4.5(200K),因此 AWS 系 Haiku 会话仍遵循 200K / 90% 阈值。

GLM-5.3(通过 moai glm)是 1M 上下文模型,以 50% 阈值运作。Claude Code 根据 Claude 插槽(Opus=1M, Sonnet/Haiku=200K)报告 context_window_size,因此 GLM 会话中原始 telemetry 可能显示 ~180K;MoAI 将其校正为 1M。请信任 statusline 的 CW% 表盘。

两阶段交接标记

statusline 分两阶段在上下文栏中追加 /clear 提示。

  • 软标记 — statusline 上下文栏中显示带有警告色的 /clear 提示。在频带的软阈值出现,是允许用户决定是否运行 /clear 的建议信号。
  • 硬标记 — statusline 上下文栏中显示带有强烈警告色的 /clear 提示。在 auto-compact 感知天花板出现,下一个操作必须是 /clear。

硬天花板设置在 auto-compact 阈值附近,因此运行时 auto-compact 通常先发,硬标记实际上很少触发。这是 auto-compact 感知公式的有意权衡。

正常中止步骤

由 SPEC-TOKEN-BUDGET-STOP-001 实现的正常中止机制按以下步骤工作。

  1. 检测 — Tracker.IsAtHardLimit(agentName) 返回 true(累计使用量 ≥ hard_clear_threshold,默认 0.90)
  2. 状态保存 — 将进行中的工作状态持久化到 progress.md
  3. 发出交接 — 生成可粘贴的 resume 消息(6 块结构)
  4. 建议回合结束 — 向用户建议 /clear(HARD: 绝不自动 /clear)
  5. 证据写入 — 将要引用的验证证据中决定判定的那几行,写进受版本跟踪的判定书 .moai/reports/<card-id>/verdict.md

/clear 绝不会被自动执行。系统只建议用户运行 /clear;由用户决定。

可粘贴 Resume 的 6 块结构

会话交接消息遵循以下 6 块结构。每块的设计使下一个会话能以最少信息继续工作。

text
✂──── 从此处复制 ────✂

ultrathink. <SPEC-ID> <phase> entering.
applied lessons: <memory-file-1>, <memory-file-2>

Preconditions:
1) <可验证的前提 1>
2) <可验证的前提 2>

Run: <命令或动作>

After merge: <下一个动作或 SPEC>

✂──── 复制到此处 ────✂

各块的作用:

  • 块 1 — ultrathink. 开场白设置 effort:xhigh,声明进入的 phase 和 SPEC-ID
  • 块 2 — applied lessons: 引用从之前会话学到的 memory 文件(最多 4 个)
  • 块 3 — Preconditions: 下一个会话在开始前须确认的可验证前提(最多 4 个,每个 ≤200 字符)
  • 块 4 — 个别前提项
  • 块 5 — Run: 单一主要动作(通常是 /moai <subcommand>)
  • 块 6 — After merge: 下一个动作或 SPEC ID

验证节食 (verify-diet)

将验证命令的长输出重定向到磁盘并在上下文中只留摘要的文件重定向契约(file-redirect contract)。

规则: 当验证命令的 verbatim 输出超过 bounded-tail ceiling (默认 50 行或 2KB,取较小者)时,输出被重定向到文件,上下文中只显示 exit code + bounded tail。

bash
go test ./... > /tmp/moai-verify/1-go-test.log 2>&1; echo "exit=$?"; tail -50 /tmp/moai-verify/1-go-test.log

此契约"将 verbatim 证据留在磁盘上,上下文只携带 exit code + bounded tail"。它去除的是双重消耗(内联输出 + 横幅再引用),不是证据本身。

验证证据导出义务

文件重定向契约写入 /tmp 的证据会被操作系统定期清除(macOS 重启、Linux tmpfs 重挂载、systemd-tmpfiles)。当引用的路径不再解析为文件时,审计时无法到达证据。

因此验证输出先落到 .moai/state/verify/<session>/ 下。这个目录只是本机暂存区: 它熬得过 /tmp 的清理,但它在 gitignore 之列——与 context-usage/、active-sessions.json 同属运行时状态区域——所以既进不了 clone,也到不了 CI 运行器,更到不了别的机器。熬过 /tmp 的清理,和审计时够得着,是两回事。

所以契约真正钉死的是把决定判定的那几行写进判定书这项义务: 要立一个主张,就得先把那几行写进受版本跟踪的判定书 .moai/reports/<card-id>/verdict.md,而且引用点名的是那单个文件,绝不是目录。卡片目录里受跟踪的名字只有这份判定书,旁边另写的文件照旧被忽略,引用它在写它的那棵树之外就打不开。只写决定判定的那几行——退出码、失败摘要、被引用的那个数字——因为把暂存目录整个搬走,无非是把从上下文里削掉的体积原样挪进仓库。留在原地的那部分,作为已知损失写进残余风险一栏;留在暂存区的材料,绝不拿来当判定依据。

下一步