跳至内容
ch16. 跨模型任务成本:完整账单、验收与迁移条件

ch16. 跨模型任务成本:完整账单、验收与迁移条件

所属专题:LLM Token 经济学

本章给出全书通用的采购比较方法。“Token 汇率”只作为任务成本比的解释性简称,不是可兑换外汇汇率,也不承诺两种模型词元之间可以交割兑换。

16.0 核心方法阅读入口

接 ch04 的交易坐标,初读只需掌握下列三项。精简方法页与统一教学队列已放在 ch00 §0.9。

工具核心要回答的问题本章位置
完整账单计费类别如何映射,是否漏算或重复?§16.3.1
验收任务成本全部失败、返工与核验成本由多少合格结果承担?§16.3.4
迁移条件在预计交付量内,运行节约能否覆盖一次性费用?§16.4.1

三项方法比较的是给定约束下的处理政策,不证明客户需要该服务,也不证明提供者能盈利。技术报告核验案例须将人工基线与候选流程放入同一任务、验收和成本边界,随后才能研究制度选择。核心读完转 ch02;价格快照、缓存和简化重试模型作为后续查阅材料。

16.1 问题的提出:同一任务为什么有不同账单

同一份合同送入不同模型,分词、系统模板、输出长度、推理预算、缓存、工具调用和返工都可能不同。目录上的“USD/百万 token”只描述部分收费规则,不直接给出完成任务的总价。

可重复的分词测试至少保留:输入文本或其可复核版本、tokenizer 名称与版本、聊天模板、模型/API版本和返回 usage。多模态内容另记编码与收费规则;没有这些记录的汉字/token 换算只能作为粗估。

正确的采购问题是:在相同任务域、质量、时限及数据要求下,采用哪一服务和处理政策的总成本更低? 迁移选项产生替代关系,不会自动创造可兑换资产。

16.2 三层比较模型

层次定义适用范围与限制
计量比固定文本 xx 的 TA(x)/TB(x)T_A(x)/T_B(x)随文本、模板和分词器变化,不能固定为全模型常数
目录价格比同币种、同计费类别的 pA/pBp_A/p_B只能比较明确方向、缓存状态、服务档位和价格日期
有效任务成本比EA/B(k)=ECA(k)/ECB(k)E_{A/B}(k)=EC_A(k)/EC_B(k)依赖任务篮子、质量、重试、人工、时限和成本边界

第三层可借用 PPP 的“固定篮子比较”思路,但并非货币购买力平价。若分母为零、无任务验收或候选服务不满足质量约束,就不能按普通成本比排名。

16.3 从逐项账单到合格任务有效成本

16.3.1 通用逐次调用费用

设一次调用为 rr,互不重复的词元计费类别为 jj,计费数量为 nr,jn_{r,j},对应报价为 pr,jp_{r,j} 美元/百万 token:

CAPI,r=∑jnr,jpr,j106+Ccache storage,r+Ctools,r+Cother,rC_{\text{API},r}=\sum_j\frac{n_{r,j}p_{r,j}}{10^6}+C_{\text{cache storage},r}+C_{\text{tools},r}+C_{\text{other},r}

除以 10610^6 不可省略。 缓存存储若按“百万 token·小时”报价,应再乘实际驻留小时并除以 10610^6。税、平台费和批量折扣按合同归属加入,避免在任务与月账单层重复分摊。

计费类别必须按供应商规则映射:缓存写入是否替代普通输入收费,还是在其上加收,应先确认。若 output usage 已包含 reasoning,不能用“可见输出 + 已含思考的总输出”重复加算。看不到内部思考文本,不等于无法读取其计费 usage。

16.3.2 可核验的 2026 价格与架构例子

DeepSeek 官方价格页在 2026-11-15 读取时,将 deepseek-flash 对应到 DeepSeek-V4.1-Flash-1017,报价如下,单位均为美元/百万 token:

时段缓存命中输入未命中输入输出
非高峰0.0030.150.60
高峰0.0060.301.20

官网当时将高峰定义为周一至周五 UTC 01:00–04:00、06:00–10:00,排除中国法定节假日;其他时段为非高峰。生产预算须重新检查价格与时间规则。这里的 0.003 只适用于该版本的非高峰缓存命中输入,不能当作全部 token 均价。

教学账单:假设高峰调用有 20,000 未命中输入、80,000 命中输入、1,000 计费输出且无其他费用:

C=20000×0.30+80000×0.006+1000×1.20106=$0.00768C=\frac{20000\times0.30+80000\times0.006+1000\times1.20}{10^6}=\$0.00768

同样计费数量按上述非高峰价为 USD 0.00384。它只是价格表的算术演示,不是业务任务实测,也未证明不同模型能用相同输出数量完成任务。

DeepSeek 模型卡确有 CED 预填充/解码激活参数 8B/16B、全局 KV 890 bytes/token和 1–100 reasoning effort 的描述。全局持久 KV 不等于整机所有运行状态;这些是发行方自述,不能据此反推出统一毛利率。

DeepInfer 部署问答披露特定部署条件下 155T token/日、超过72小时持久化、按非高峰价折算约USD 38/GPU·h收入等数据。收入不等于利润,缓存保留能力也不等于每个客户享有命中保证;客户预算仍须使用自己的命中记录。

GLM-5.3-Flash 模型卡列出 low/high/max 推理设置,未传或无效值默认 max。比较时应记录具体设置;不同供应商同名档位并不表示同样计算预算,应在质量—成本前沿上比较。速度或加价倍数也须绑定具体版本与价格快照。

16.3.3 简化输入成本模型的边界

若只存在输入命中和未命中两种互斥类别,命中率应按输入 token 数量加权而非请求数:

hm=nmhitnmhit+nmmiss,p~min=(1−hm)pmmiss+hmpmhith_m=\frac{n_m^{\text{hit}}}{n_m^{\text{hit}}+n_m^{\text{miss}}},\qquad \widetilde p_m^{\text{in}}=(1-h_m)p_m^{\text{miss}}+h_mp_m^{\text{hit}}

若以参考输入数量 NbaseN_{\text{base}} 定义模型分词比 τm,k\tau_{m,k},再用该模型的计费输出/输入比 ρm,kbill\rho_{m,k}^{\text{bill}},一次调用费用可近似为:

Cm(k)≈Nbase(k)τm,k106[p~min+ρm,kbillpmout]+CmotherC_m(k)\approx\frac{N_{\text{base}}(k)\tau_{m,k}}{10^6} \left[\widetilde p_m^{\text{in}}+\rho_{m,k}^{\text{bill}}p_m^{\text{out}}\right]+C_m^{\text{other}}

这里输出比本身随模型、任务和设置变化,不能假设全模型共享一个 ρk\rho_k。若使用“可见输出 × 思考倍率”估算计费输出,应明确倍率的测量方法,并且不要再叠加已经计入的 reasoning。完整 usage 优先于倍率近似。

16.3.4 通用有效成本:全量成本除以最终验收任务数

对固定任务队列 K\mathcal K 与完整处理政策 π\pi,定义 Si=1S_i=1 表示第 ii 个任务在预设质量与时限内最终验收:

EC^π(K)=∑i∈K(Ctoken,i+Cstorage,i+Ctools,i+Cverification,i+Chuman,i+Coperations,i)∑i∈KSi\widehat{EC}_{\pi}(\mathcal K)= \frac{\sum_{i\in\mathcal K}\left(C_{\text{token},i}+C_{\text{storage},i}+C_{\text{tools},i}+C_{\text{verification},i}+C_{\text{human},i}+C_{\text{operations},i}\right)}{\sum_{i\in\mathcal K}S_i}

各成本桶必须互斥:Ctoken,iC_{\text{token},i}只累计所有调用的词元费用,不是16.3.1中已含存储、工具等项目的API总账单;其他账单项拆入对应桶。人工统一放入human,自动核验放入verification,其余平台、运维和分摊费用放入operations;同一笔费用只能出现一次。

分子包含失败、重试、放弃任务以及人工兜底的成本,不能只留下成功样本。固定成本分摊原则须公开;重大业务损失可另报风险指标或按预设期望损失加入,须避免与赔付重复。

同时报告 ∑Si/∣K∣\sum S_i/|\mathcal K|、重大错误、延迟和失败构成。否则,系统可以通过拒绝难题得到看似很低的成功任务成本。比较不同方案应使用相同或可校准的任务队列与验收规则;若无任务合格,指标未定义。

16.3.5 为什么不能默认使用 c/qc/q

在每次尝试独立同分布、成功概率恒为 q>0q>0、每次等成本 cc、持续重试直到成功且无其他成本的简化模型中,尝试次数服从几何分布,期望成本为 c/qc/q。它不是所有 Agent 工作流的默认公式。

若单次调用成本 cc、通过率 qq,失败后支付固定人工成本 HH 并保证验收,则:

EC=c+(1−q)HEC=c+(1-q)H

例如 $c=$0.10$、q=0.8q=0.8、$H=$0.50$,成本为 USD 0.20;直接套 c/qc/q 得到 USD 0.125,会遗漏人工政策的真实成本。若人工也会失败,或重试受次数、上下文与期限限制,应估计整条政策的总成本与最终验收率。

失败相关、换模型兜底、缓存变化及提示词增长都会改变重试分布。CfixC_{\text{fix}} 也必须说明是“每次失败后额外修复”还是“最终一次人工兜底”,不能同时按几何失败次数计入再当作终审成本。

16.4 跨模型迁移与缓存状态

16.4.1 固定迁移费用必须与任务量对应

假设未来需要交付的可比合格任务数为 NN,旧方案与新方案的每个合格任务成本分别为 ECAEC_A、ECBEC_B,一次性迁移费用为 FmigrationF_{\text{migration}}。在两者任务范围、质量、验收率、时限等可比,且单位成本包含可归属运行费用但未重复摊入该迁移费时:

N(ECA−ECB)>FmigrationN(EC_A-EC_B)>F_{\text{migration}}

才表示所测周期内的净成本收益为正。不能把“每任务价差”直接减“整项迁移费用”。若任务量、成本或风险随时间变化,应使用折现后的分期净收益并作敏感性分析。

教学例:每任务由 USD 0.12 降至 USD 0.09,未来10,000个任务只节约 USD 300;一次性迁移费 USD 500 时不划算。超过约16,667个可比任务后才覆盖该固定费用,且尚未计入估计误差。

16.4.2 长会话中途切换的状态成本

已有前缀缓存可能使继续使用 A 更便宜。换到 B 可能需要重编码历史、重新预填充、重建工具状态或调整提示词;不能假设不同模型的 KV 张量可以直接互用。

但缓存亲和也不是禁止任何切换的定律。短剩余上下文、B 更便宜或更快、A 故障、隐私约束、缓存过期或本身未命中时,切换可能更优。正确条件是:

E[CAremaining∣s]>FA→B(s)+E[CBremaining∣s′]\mathbb E[C_A^{\text{remaining}}\mid s]>F_{A\to B}(s)+\mathbb E[C_B^{\text{remaining}}\mid s']

并满足质量、时限与数据要求。ss 包含历史上下文、实际缓存、工具状态和剩余任务;冷启动费用若已计在 B 的后续账单中,就不能又加一次。需要比较剩余整条工作流,而非只看下一次请求。

前缀命中、缓存路由与定价规则是不同层面的机制。自托管系统“命中同一缓存”不保证 API 客户一定获得同样折扣。

16.5 大宗商品、外汇与服务券类比的限度

跨区域商品比价提醒采购者加入运费、品级和制度成本;模型迁移同样要计入适配与质量。但模型任务无法像同一可交割商品那样无风险买低卖高,因此更准确的术语是采购优化或服务替代,不是无风险套利。

沪伦价格比较还涉及币种、期限、品级、税务与融资。可抵扣增值税通常具有资金占用影响,不宜一概视作最终不可回收成本;tokenizer 差异也不是 CNY/USD 汇率。

原有类比可保留的启示不成立的推论
浮动汇率与动态路由随价格和服务状态调整采购任务成本比本身不构成可兑换汇率
资本管制与闭环余额转让限制影响流动性闭环不免疫退款、信用或监管风险
商品篮子锚定与服务券资产负债需要匹配不存在统一“每年80%贬值”结论
远期锁汇与采购锁价提前分配某类价格风险现金结算不保容量,也不限制总用量

16.6 基准发布与中国市场比较

有用的任务成本基准需要固定或透明更新的任务篮子、独立验收、模型版本、价格时点、地域、缓存工况、重试策略、样本量与区间估计。代码、翻译和财务分析可分层报告,避免一个总分掩盖不同用途。

现有第三方评测、成本工具和 GPU 指数已提供部分能力;“第一个发布者必然掌握定价权”没有依据。发布者若经营路由,应披露自有流量选择、供应商关系和利益冲突。

人民币与美元报价要按明确汇率和日期换算,再加入税、平台费、数据边界与网络条件。中文 tokenizer 是否有优势须按具体模型与语料测量;不同国家的模型服务不是 CNY/CNH 式同一货币的两个市场。

16.7 本章小结

计量比、目录价比和任务成本比各有用途。有效采购应从完整费用与验收政策出发,按未来任务量衡量迁移收益,并将缓存状态纳入动态决策。“Token 汇率”可以作为解释性简称,但不能变成可兑换承诺、统一智能物理量或无风险套利定理。

**阅读导航:**核心方法的上一站是 ch04,下一站是 ch02 研究命题。完成试验时可按需回查本章;定义与来源分别见 附录 A、附录 C。

本文写作中使用了 AI 辅助。文字采用 CC BY-NC-SA 4.0 许可。

最后更新于