ch16. 跨模型任务成本:完整账单、验收与迁移条件
本章给出全书通用的采购比较方法。“Token 汇率”只作为任务成本比的解释性简称,不是可兑换外汇汇率,也不承诺两种模型词元之间可以交割兑换。
16.0 核心方法阅读入口
接 ch04 的交易坐标,初读只需掌握下列三项。精简方法页与统一教学队列已放在 ch00 §0.9。
| 工具 | 核心要回答的问题 | 本章位置 |
|---|---|---|
| 完整账单 | 计费类别如何映射,是否漏算或重复? | §16.3.1 |
| 验收任务成本 | 全部失败、返工与核验成本由多少合格结果承担? | §16.3.4 |
| 迁移条件 | 在预计交付量内,运行节约能否覆盖一次性费用? | §16.4.1 |
三项方法比较的是给定约束下的处理政策,不证明客户需要该服务,也不证明提供者能盈利。技术报告核验案例须将人工基线与候选流程放入同一任务、验收和成本边界,随后才能研究制度选择。核心读完转 ch02;价格快照、缓存和简化重试模型作为后续查阅材料。
16.1 问题的提出:同一任务为什么有不同账单
同一份合同送入不同模型,分词、系统模板、输出长度、推理预算、缓存、工具调用和返工都可能不同。目录上的“USD/百万 token”只描述部分收费规则,不直接给出完成任务的总价。
可重复的分词测试至少保留:输入文本或其可复核版本、tokenizer 名称与版本、聊天模板、模型/API版本和返回 usage。多模态内容另记编码与收费规则;没有这些记录的汉字/token 换算只能作为粗估。
正确的采购问题是:在相同任务域、质量、时限及数据要求下,采用哪一服务和处理政策的总成本更低? 迁移选项产生替代关系,不会自动创造可兑换资产。
16.2 三层比较模型
| 层次 | 定义 | 适用范围与限制 |
|---|---|---|
| 计量比 | 固定文本 的 | 随文本、模板和分词器变化,不能固定为全模型常数 |
| 目录价格比 | 同币种、同计费类别的 | 只能比较明确方向、缓存状态、服务档位和价格日期 |
| 有效任务成本比 | 依赖任务篮子、质量、重试、人工、时限和成本边界 |
第三层可借用 PPP 的“固定篮子比较”思路,但并非货币购买力平价。若分母为零、无任务验收或候选服务不满足质量约束,就不能按普通成本比排名。
16.3 从逐项账单到合格任务有效成本
16.3.1 通用逐次调用费用
设一次调用为 ,互不重复的词元计费类别为 ,计费数量为 ,对应报价为 美元/百万 token:
除以 不可省略。 缓存存储若按“百万 token·小时”报价,应再乘实际驻留小时并除以 。税、平台费和批量折扣按合同归属加入,避免在任务与月账单层重复分摊。
计费类别必须按供应商规则映射:缓存写入是否替代普通输入收费,还是在其上加收,应先确认。若 output usage 已包含 reasoning,不能用“可见输出 + 已含思考的总输出”重复加算。看不到内部思考文本,不等于无法读取其计费 usage。
16.3.2 可核验的 2026 价格与架构例子
DeepSeek 官方价格页在 2026-11-15 读取时,将 deepseek-flash 对应到 DeepSeek-V4.1-Flash-1017,报价如下,单位均为美元/百万 token:
| 时段 | 缓存命中输入 | 未命中输入 | 输出 |
|---|---|---|---|
| 非高峰 | 0.003 | 0.15 | 0.60 |
| 高峰 | 0.006 | 0.30 | 1.20 |
官网当时将高峰定义为周一至周五 UTC 01:00–04:00、06:00–10:00,排除中国法定节假日;其他时段为非高峰。生产预算须重新检查价格与时间规则。这里的 0.003 只适用于该版本的非高峰缓存命中输入,不能当作全部 token 均价。
教学账单:假设高峰调用有 20,000 未命中输入、80,000 命中输入、1,000 计费输出且无其他费用:
同样计费数量按上述非高峰价为 USD 0.00384。它只是价格表的算术演示,不是业务任务实测,也未证明不同模型能用相同输出数量完成任务。
DeepSeek 模型卡确有 CED 预填充/解码激活参数 8B/16B、全局 KV 890 bytes/token和 1–100 reasoning effort 的描述。全局持久 KV 不等于整机所有运行状态;这些是发行方自述,不能据此反推出统一毛利率。
DeepInfer 部署问答披露特定部署条件下 155T token/日、超过72小时持久化、按非高峰价折算约USD 38/GPU·h收入等数据。收入不等于利润,缓存保留能力也不等于每个客户享有命中保证;客户预算仍须使用自己的命中记录。
GLM-5.3-Flash 模型卡列出 low/high/max 推理设置,未传或无效值默认 max。比较时应记录具体设置;不同供应商同名档位并不表示同样计算预算,应在质量—成本前沿上比较。速度或加价倍数也须绑定具体版本与价格快照。
16.3.3 简化输入成本模型的边界
若只存在输入命中和未命中两种互斥类别,命中率应按输入 token 数量加权而非请求数:
若以参考输入数量 定义模型分词比 ,再用该模型的计费输出/输入比 ,一次调用费用可近似为:
这里输出比本身随模型、任务和设置变化,不能假设全模型共享一个 。若使用“可见输出 × 思考倍率”估算计费输出,应明确倍率的测量方法,并且不要再叠加已经计入的 reasoning。完整 usage 优先于倍率近似。
16.3.4 通用有效成本:全量成本除以最终验收任务数
对固定任务队列 与完整处理政策 ,定义 表示第 个任务在预设质量与时限内最终验收:
各成本桶必须互斥:只累计所有调用的词元费用,不是16.3.1中已含存储、工具等项目的API总账单;其他账单项拆入对应桶。人工统一放入human,自动核验放入verification,其余平台、运维和分摊费用放入operations;同一笔费用只能出现一次。
分子包含失败、重试、放弃任务以及人工兜底的成本,不能只留下成功样本。固定成本分摊原则须公开;重大业务损失可另报风险指标或按预设期望损失加入,须避免与赔付重复。
同时报告 、重大错误、延迟和失败构成。否则,系统可以通过拒绝难题得到看似很低的成功任务成本。比较不同方案应使用相同或可校准的任务队列与验收规则;若无任务合格,指标未定义。
16.3.5 为什么不能默认使用
在每次尝试独立同分布、成功概率恒为 、每次等成本 、持续重试直到成功且无其他成本的简化模型中,尝试次数服从几何分布,期望成本为 。它不是所有 Agent 工作流的默认公式。
若单次调用成本 、通过率 ,失败后支付固定人工成本 并保证验收,则:
例如 $c=$0.10$、、$H=$0.50$,成本为 USD 0.20;直接套 得到 USD 0.125,会遗漏人工政策的真实成本。若人工也会失败,或重试受次数、上下文与期限限制,应估计整条政策的总成本与最终验收率。
失败相关、换模型兜底、缓存变化及提示词增长都会改变重试分布。 也必须说明是“每次失败后额外修复”还是“最终一次人工兜底”,不能同时按几何失败次数计入再当作终审成本。
16.4 跨模型迁移与缓存状态
16.4.1 固定迁移费用必须与任务量对应
假设未来需要交付的可比合格任务数为 ,旧方案与新方案的每个合格任务成本分别为 、,一次性迁移费用为 。在两者任务范围、质量、验收率、时限等可比,且单位成本包含可归属运行费用但未重复摊入该迁移费时:
才表示所测周期内的净成本收益为正。不能把“每任务价差”直接减“整项迁移费用”。若任务量、成本或风险随时间变化,应使用折现后的分期净收益并作敏感性分析。
教学例:每任务由 USD 0.12 降至 USD 0.09,未来10,000个任务只节约 USD 300;一次性迁移费 USD 500 时不划算。超过约16,667个可比任务后才覆盖该固定费用,且尚未计入估计误差。
16.4.2 长会话中途切换的状态成本
已有前缀缓存可能使继续使用 A 更便宜。换到 B 可能需要重编码历史、重新预填充、重建工具状态或调整提示词;不能假设不同模型的 KV 张量可以直接互用。
但缓存亲和也不是禁止任何切换的定律。短剩余上下文、B 更便宜或更快、A 故障、隐私约束、缓存过期或本身未命中时,切换可能更优。正确条件是:
并满足质量、时限与数据要求。 包含历史上下文、实际缓存、工具状态和剩余任务;冷启动费用若已计在 B 的后续账单中,就不能又加一次。需要比较剩余整条工作流,而非只看下一次请求。
前缀命中、缓存路由与定价规则是不同层面的机制。自托管系统“命中同一缓存”不保证 API 客户一定获得同样折扣。
16.5 大宗商品、外汇与服务券类比的限度
跨区域商品比价提醒采购者加入运费、品级和制度成本;模型迁移同样要计入适配与质量。但模型任务无法像同一可交割商品那样无风险买低卖高,因此更准确的术语是采购优化或服务替代,不是无风险套利。
沪伦价格比较还涉及币种、期限、品级、税务与融资。可抵扣增值税通常具有资金占用影响,不宜一概视作最终不可回收成本;tokenizer 差异也不是 CNY/USD 汇率。
| 原有类比 | 可保留的启示 | 不成立的推论 |
|---|---|---|
| 浮动汇率与动态路由 | 随价格和服务状态调整采购 | 任务成本比本身不构成可兑换汇率 |
| 资本管制与闭环余额 | 转让限制影响流动性 | 闭环不免疫退款、信用或监管风险 |
| 商品篮子锚定与服务券 | 资产负债需要匹配 | 不存在统一“每年80%贬值”结论 |
| 远期锁汇与采购锁价 | 提前分配某类价格风险 | 现金结算不保容量,也不限制总用量 |
16.6 基准发布与中国市场比较
有用的任务成本基准需要固定或透明更新的任务篮子、独立验收、模型版本、价格时点、地域、缓存工况、重试策略、样本量与区间估计。代码、翻译和财务分析可分层报告,避免一个总分掩盖不同用途。
现有第三方评测、成本工具和 GPU 指数已提供部分能力;“第一个发布者必然掌握定价权”没有依据。发布者若经营路由,应披露自有流量选择、供应商关系和利益冲突。
人民币与美元报价要按明确汇率和日期换算,再加入税、平台费、数据边界与网络条件。中文 tokenizer 是否有优势须按具体模型与语料测量;不同国家的模型服务不是 CNY/CNH 式同一货币的两个市场。
16.7 本章小结
计量比、目录价比和任务成本比各有用途。有效采购应从完整费用与验收政策出发,按未来任务量衡量迁移收益,并将缓存状态纳入动态决策。“Token 汇率”可以作为解释性简称,但不能变成可兑换承诺、统一智能物理量或无风险套利定理。
**阅读导航:**核心方法的上一站是 ch04,下一站是 ch02 研究命题。完成试验时可按需回查本章;定义与来源分别见 附录 A、附录 C。
本文写作中使用了 AI 辅助。文字采用 CC BY-NC-SA 4.0 许可。