Agent模型选型：特化降本与通用提智如何平衡

当Agent从“回答问题”走向“操作电脑”，模型选型就不再是单一榜单排名问题，而是一个涉及成本、成功率、时延与风险控制的工程决策。一个常见困惑是：既然出现了成本约减半、更擅长屏幕操作的特化模型，是否应全面替换通用旗舰模型？更合理的答案是：不要二选一，而应按任务链路分层，把“高频、短链路、看屏幕点按钮”的任务交给特化模型，把“低频、长链路、需要深度规划”的任务留在通用旗舰模型。

一、先厘清定位：特化降本与通用提智不是替代关系

通用旗舰模型通常拥有更广的知识覆盖、更强的复杂推理和长上下文能力，适合处理跨系统排障、长文档分析、多约束规划、代码理解与生成等任务。它的价值在于“想清楚”和“少走错路”。计算机操作特化模型则把优化重点放在视觉理解、界面元素识别、动作序列生成和响应速度上，适合高频执行类任务，例如页面信息定位、表单填写、按钮点击、流程校验等。

两者不是“高配与低配”的简单关系，而是能力分工。特化模型可能在单步操作上更快、更便宜，但复杂任务中的规划、异常恢复和长链路状态跟踪仍可能需要通用旗舰模型。企业应把它们视为模型组合中的不同角色：规划器、执行器、校验器，而不是一个万能模型。

二、成本账不能只看token单价，要看每成功任务成本

特化模型的单价优势很直接，但工程上更应关注“每成功任务成本”。可用下式粗略衡量：

每成功任务成本 =（输入成本 + 输出成本 + 缓存与存储成本 + 工具调用成本 + 重试成本 + 人工接管成本）/ 任务成功率

如果特化模型单价低、速度快，且任务链路短、重试率低，那么端到端成本会显著下降。反之，如果复杂任务因规划不足导致反复重试、人工接管甚至错误提交，低价优势会被抵消。缓存也很关键：对重复页面结构、固定前缀、常见操作流程做缓存，可进一步降低重复输入成本，但缓存设计必须与任务隔离、权限和时效性结合。

伪代码示例：

function costPerSuccess(model, tasks):
    total = 0
    success = 0
    for task in tasks:
        result = executeWithRetry(model, task)
        total += result.inputCost + result.outputCost
        total += result.toolCost + result.retryCost
        total += result.humanTakeoverCost
        if result.success:
            success += 1
    return total / max(success, 1)

选型时应同时比较“平均每任务成本”和“每成功任务成本”，后者更接近业务真实账本。

三、智能差距要看任务链路，而不是只看综合分

综合智能基准接近，并不代表所有任务都可互换。短链路操作任务中，模型只需识别界面、选择动作、确认结果，特化能力可能抵消部分智能差距；长链路任务中，每一步的小误差会累积，通用旗舰模型在规划、状态跟踪和异常恢复上的优势会被放大。编码、复杂推理、多文档归纳等任务尤其如此。

因此应建立分层评测集：短链路点击类、表单填写类、跨页流程类、长文档分析类、复杂规划类、异常恢复类。每类统计任务成功率、平均步骤数、重试率、人工接管率和P95完成时延。不要用单一平均分决定全量切换。

四、速度要按“任务完成时间”衡量

在屏幕操作场景中，速度不仅是单token生成速度，更是从接收任务到完成操作的端到端时间。它受首步延迟、单步动作耗时、步骤数、重试次数和工具等待影响。特化模型若能在更少步骤内完成操作，任务完成时间会明显缩短，这对高并发、交互式流程和用户体验很重要。

但速度不能以牺牲成功率为代价。建议同时设定“成功率下限”和“P95时延上限”，只有两者同时达标才进入灰度。对于高风险操作，如提交订单、修改权限、删除数据，应增加确认节点，不能单纯追求快。

五、长上下文与复杂推理仍是通用旗舰的主场

长上下文能力影响模型能否在一次任务中保留完整状态、历史操作和约束条件。复杂推理则决定模型能否拆解目标、制定计划、处理分支和异常。对于跨多个系统、需要阅读长文档、需要生成多步计划的Agent任务，通用旗舰模型仍更稳妥。

工程上可采用“规划器+执行器”组合：由通用模型负责目标拆解、风险判断和关键节点决策，由特化模型负责高频界面操作；当执行器连续失败或置信度低时，回退到通用模型重新规划。这样既控制成本，又保留复杂任务的成功率。

六、幻觉在操作场景中的代价更高

事实性幻觉在问答场景可能只是答案错误，在操作场景却可能表现为点错按钮、填错字段、提交错误表单。特化模型如果降低了幻觉率、提升了界面事实识别准确率，对Agent是实质性收益。但企业仍需通过权限最小化、二次确认、可撤销操作、审计日志和结果校验来兜底。

选型评测中应加入“不确定表达”和“验证能力”指标：模型是否会在信息不足时请求确认，是否能识别页面状态不一致，是否会在执行后校验结果。这些能力比单纯分数更接近生产要求。

七、选型框架：按任务特征路由

建议用以下维度做评分卡：任务链路长度、视觉密度、上下文长度、推理深度、错误成本、并发与时延要求、预算约束、合规要求。决策规则可以简化为：

• 高频、短链路、强视觉、错误可恢复：优先特化模型，追求降本提速。
• 低频、长链路、强推理、错误成本高：优先通用旗舰，追求成功率。
• 混合流程：通用模型规划，特化模型执行，关键节点回退。
• 高风险操作：无论模型选择，都增加确认、权限和审计。

八、工程落地：路由、缓存、回退与监控

落地时建议建设统一模型路由层，按任务类型、风险等级和预算动态选择模型。对重复页面结构和固定前缀做缓存；对失败任务设置回退策略；对高风险动作增加人工确认；对每次执行记录步骤、耗时、成本和结果。

function runAgent(task):
    route = classify(task)
    if route == "short_visual":
        result = execute(cheapSpecializedModel, task)
        if result.failed or result.lowConfidence:
            result = execute(generalModel, task)
    else:
        result = execute(generalModel, task)
    recordMetrics(result)
    return result

监控指标至少包括：任务成功率、平均步骤数、重试率、人工接管率、P95完成时延、每成功任务成本、异常操作率。通过灰度发布和小流量A/B验证，再逐步扩大特化模型覆盖范围。

结论：选型的核心不是“谁便宜一半就换谁”，而是按任务链路分层，把成本敏感、短链路、视觉操作型任务交给特化模型，把复杂推理、长上下文和高风险任务交给通用旗舰模型。建立以每成功任务成本为核心的评测闭环，配合路由、缓存、回退和审计，才能在降本的同时守住成功率与安全边界。