SAG / ARCHITECTURE NOTE

用量预留与账本:准确结算 AI 成本的架构

结合研究和官方文档,说明用量账本的定义、必要性和工作原理,以及在 SAG 架构中的应用标准与实务检查清单。

下载Markdown

一句话定义

用量账本是一种在任务开始前预留额度,并在任务完成或取消时通过 append-only 事件进行结算的方式。

核心答案:如果并发任务只是读取当前值再扣减,就可能超出额度。如果失败和重试导致重复扣减,就会失去客户的信任。

为什么需要这项技术?

如果并发任务只是读取当前值再扣减,就可能超出额度。如果失败和重试导致重复扣减,就会失去客户的信任。

工作原理

在一个短事务中锁定可用额度并进行预留。任务完成时记录 exactly-once 结算;较晚到达的事件则通过单独的 reconciliation 处理。

设计时不能只考虑准确性。还必须共同定义延迟、成本、数据边界、更新周期和故障时的行为,才能在生产环境中获得可复现的结果。对于自动化无法确定的值,安全做法是将其保留为“未测量”或“需要审核”状态,而不是改成 0 或成功。

与 SAG 技术的联系

SAG 使用按 tenant 隔离的 quota 预留、usage ledger 和 idempotency key。fixture token 与实际供应商成本分开处理;没有外部调用时,不会把成本 0 解读为实际成本估算。

实务检查清单

  • 测试并发预留是否会导致超出额度
  • 同一任务只允许结算一次
  • 将客户 credit 与供应商成本分开
  • 将失败、空结果和权限错误的状态与成功区分开
  • 在相同条件下重新验证变更前后的结果

研究与官方文档

参考文档为原理和建议提供依据。它们不保证搜索曝光、AI 提及、排名或收入;实际应用效果应通过服务数据和相同条件下的观测加以验证。

按主题划分的技术参考

如何继续了解这项技术

了解租户权限、任务重试、缓存和审批记录。

文章列表