大模型定价分化背后：规模、成本与选型逻辑

一、现象：参数迈向万亿级，定价却走向分化

过去一年，旗舰大模型的总参数量从千亿级迈入万亿级已成为明确的行业趋势。借助混合专家（MoE）架构，模型可以在总参数量大幅增长的同时，把每个 token 实际激活的参数控制在较小比例，从而在能力与推理成本之间寻找平衡。但定价策略出现了明显分化：一类新模型在参数规模放大的同时，把输入、输出单价进一步下调；另一类新一代旗舰则显著提价，输出单价达到上一代的数倍，形成“同代更贵”的强烈反差。

这种分化并非偶然。它背后是推理成本结构、技术效率演进与商业策略三重力量的博弈。理解这三者，比追逐某一次具体调价更有价值。

二、推理成本从哪里来

要理解定价，先要理解一次大模型调用的成本构成。

1. 计算成本：生成每个 token 的计算量大致与激活参数量成正比。总参数量再大，若激活比例低，单 token 的浮点运算量增幅有限；反之，若激活参数明显增加，或引入更长的推理链（如思维链、多步工具调用），计算开销会成倍上升。
2. 显存与带宽成本：解码阶段是典型的访存受限过程——每生成一个 token，都要把模型权重和不断增长的键值（KV）缓存读取一遍。上下文越长、并发越高，对高带宽显存与互联网络的压力越大，这往往是推理集群中最昂贵的资源。
3. 集群与可用性成本：为保障低延迟与高可用，服务方需预留算力应对峰值，闲置率本身就是成本；机房、网络与运维摊销同样计入单位 token 价格。
4. 训练成本摊销：万亿参数模型的训练投入巨大，这部分成本会以不同比例摊入 API 定价，这也是前沿旗舰往往定价更高的原因之一。

三、输入、输出、缓存：三级定价的经济学

主流模型服务普遍按百万 token 计费，并区分输入、输出与缓存命中三档价格，档间差异可达数倍甚至一个数量级，这并非随意定价：

• 输入便宜：预填充阶段一次性并行处理整段提示词，算术强度高、可充分批处理，边际成本低。
• 输出贵：自回归解码逐 token 生成，每一步都要完整读取权重与缓存，带宽受限、并行度低，且输出长度不可预知，容量规划成本高。实践中输出单价通常是输入的数倍。
• 缓存命中极便宜：前缀缓存技术将重复出现的提示前缀（如系统提示、固定示例）的 KV 缓存保存复用，命中部分几乎只需极少量计算与存储开销，因此可给出远低于常规输入的价格。

理解这一定价结构，优化方向就非常清晰：把贵的部分（输出）变短，把可复用的部分（稳定前缀）交给缓存。

四、为什么有人“越大越便宜”，有人“越大越贵”

参数规模与价格的背离，取决于三条曲线的相对速度：

1. 效率曲线：若架构稀疏化、KV 缓存压缩、低精度量化、投机解码、更优的并行调度等优化跑得够快，单位 token 成本可随规模扩大反而下降，于是出现“参数翻倍、价格打折”。
2. 能力溢价曲线：新一代旗舰往往带来更强的推理能力、更长的上下文或更多的推理时计算（模型在后台生成大量隐藏推理 token），实际资源消耗远超参数账面增幅，成本自然传导到价格上。
3. 商业策略曲线：低价是获客与生态建设的杠杆，高价则是对前沿能力与稀缺供给的定价。两种策略并存，本身说明行业仍在快速演化。

对观察者而言，与其纠结某一次调价，不如把价格视为“当前供给能力与竞争格局的快照”——它会持续变动。

五、开发者如何理性测算与选型

面对波动的价格与快速迭代的模型，建议建立一套轻量但严谨的成本评估流程。

第一步：建立成本模型。 一次调用的成本可近似为：

成本 ≈（未命中输入 token × 输入单价 + 命中输入 token × 缓存单价 + 输出 token × 输出单价）× 调用量

用几行代码即可把业务流量换算成月度账单（示意）：

def monthly_cost(daily_req, in_tok, out_tok, cache_ratio,
                 p_in, p_out, p_cache):
    """按百万 token 单价估算月成本（示意）"""
    M = 1_000_000
    per_req = (in_tok * (1 - cache_ratio) / M * p_in
               + in_tok * cache_ratio / M * p_cache
               + out_tok / M * p_out)
    return per_req * daily_req * 30

第二步：用“每元有效能力”代替单价比较。 在自己真实任务集上做小规模评测，记录质量得分、延迟与 token 消耗，算出单位成本的产出，比只看报价单可靠得多。

第三步：分级路由。 简单任务（分类、抽取、格式转换）交给小模型，复杂推理才升级到旗舰模型，可显著摊薄整体成本：

def route(prompt):
    if estimate_complexity(prompt) < THRESHOLD:
        return SMALL_MODEL      # 低成本档
    return FLAGSHIP_MODEL       # 能力档

第四步：工程侧降本。 包括：约束输出长度、要求结构化输出；把系统提示、few-shot 示例等稳定前缀置于提示词开头以提升缓存命中率；离线批处理任务利用批处理接口的低价窗口；对多轮会话做好上下文裁剪。

第五步：保持可替换性。 在网关层抽象模型调用接口，记录每次调用的 token 用量与成本并按业务归因。当前主流云平台（如百度智能云等）普遍提供模型服务及配套的监控、路由类工具能力，选型时可纳入统一评测。当价格或能力格局变化时，可以低成本切换，避免被单一供给锁定。

六、结语

大模型定价的剧烈波动，反映的是规模竞赛、推理效率与商业策略三方力量的拉锯。对开发者而言，与其预测价格走向，不如把确定性握在自己手里：算清账单构成、用数据而非直觉选型、用工程手段压低单位产出成本，并把模型视为可随时替换的组件。当价格不再是决策的唯一变量，“每元买到的有效能力”才是穿越模型迭代周期的稳定标尺。