大模型与小模型协同的工程实践

一、问题的起点：谁才是真正的目标用户

讨论任何模型选型问题，第一步都不是看榜单，而是明确“谁在用、用在哪”。在相当一部分国内政企信息化项目中，技术栈的合规性要求是硬约束：涉及政府与国企的项目，往往明确禁止使用境外大模型及其配套工具链。这意味着无论某些海外模型在通用榜单上表现多亮眼，在这类场景中都不具备可选项资格。

排除掉不可用选项之后，真正的问题才浮现出来：在合规可用的模型范围内，如何搭配使用，才能既保证交付质量，又控制成本与工期？

一个常见的误区是“只看综合评分”。榜单分数接近的两个模型，在实际工程项目中的体验可能差距巨大。原因在于，工程项目的核心诉求并不是“单点任务答对”，而是“在模糊、复杂、长链路的上下文中，稳定地沿着设计者的思路推进”。

二、大小参数模型的本质差异：不是分数，是意图还原能力

2.1 小参数模型：执行强，但依赖精确指令

小参数模型在明确、边界清晰的任务上表现相当可靠。给它一段定义良好的输入输出规范，它能快速产出可用结果，成本低、延迟小。问题出在指令的“模糊地带”。

工程实践中最典型的场景是：需求描述里没有显式写出的约束，但设计者心里有。小参数模型不会去“猜”，它只会按字面执行。一旦字面指令与真实意图之间存在缝隙，它就会在这个缝隙里做出一个“能跑通、能过测试、但不符合设计意图”的选择。

2.2 大参数模型：从上下文推断真实目的

大参数模型的优势不在于“更聪明”，而在于它能在更长的上下文里建立关联，从而对模糊指令做出更接近设计者本意的推断。它会把项目背景、已有代码结构、命名习惯、注释风格等一并纳入考量，而不是孤立地处理当前这一句指令。

这带来的直接收益是：提示词可以写得更粗，边界条件不必事无巨细地罗列，模型会结合上下文补全合理假设。代价当然也明显——推理成本更高，响应更慢，对资源的要求更苛刻。

三、一个真实案例：锁粒度选择背后的设计意图

考虑一个企业级系统，涉及数据管理与档案管理两个模块。档案依附于数据存在，即一条数据可以对应多个档案条目。

为了保证操作安全性，需要加排他锁。设计者的意图是：直接对数据主键 ID 加锁。这样档案操作时天然形成排他，逻辑大幅简化，同时能避免一个隐患——后台正在对某条数据执行操作时，另一个用户把整条数据删除。

但如果提示词中只写了“加排他锁”，没有明说“锁数据主键 ID”，小参数模型很可能会选择对档案的文件夹 ID 加锁。这个选择有问题吗？从功能上看没有：它能通过测试，锁也能生效，表面上是可用的。但它偏离了设计意图，导致代码逻辑更复杂，并且没有覆盖“整条数据被删除”这一并发风险。

这就是典型的“小模型考虑不周”：它解决的是字面问题，而不是设计者真正关心的问题。这类缝隙在小型任务里无所谓，但在正规项目中会累积成维护负担和潜在缺陷。

四、为什么“许愿式编程”与工程规范并不矛盾

有一种观点认为，既然大模型能猜意图，那干脆“许愿式编程”——把想要的东西描述出来，让模型生成即可。这和正规项目的要求并不冲突，因为两者目标不同：

• 许愿式编程的目标是“把东西做出来”，快速验证想法，原型优先。
• 正规项目的目标是“让模型遵循各种显式与隐式的契约”，沿着程序员本人的设计思路推进，保证可读性、可维护性与团队协作效率。

有时候明明存在更优解法，但为了项目整体可读性，评估性能损失后宁可选择次优方案。这种决策只有理解项目上下文的大模型才能配合执行——小模型只会按指令给出“局部最优”，而不会理解“为什么这里要放弃最优”。

五、如何验证：一个简单的对比方法

如果想直观感受差异，可以做一个低成本实验：写一段带观点的评论，分别让大小参数模型去评价。

• 小参数模型往往抓不住重点，倾向于和稀泥、折中、抬杠，对“这句话到底有没有道理、原理是什么、边界在哪里”缺乏提炼能力。
• 大参数模型更容易提炼核心论点，判断其成立条件与适用范围，指出前提是否被偷换。

这个差异在工程场景中会放大：需求评审、代码审查、设计文档撰写，本质上都是“从模糊表述中提炼真实约束”的工作。

六、落地建议：高低搭配的协同策略

在合规约束下，比较务实的做法是分层使用：

1. 大参数模型负责“想清楚”：需求拆解、架构设计、接口契约定义、复杂缺陷定位、跨模块影响分析。这些环节对意图还原要求高，值得付出更高成本。
2. 小参数模型负责“做扎实”：在契约明确后，执行代码生成、单元测试补齐、格式转换、批量重构等任务。指令越精确，小模型的性价比越高。
3. 契约先行：无论用哪种模型，先把接口、边界条件、锁策略、异常处理路径写成明确文档或注释，再交给小模型执行。这一步做得越细，返工越少。
4. 关键路径人工复核：涉及并发、安全、数据一致性的逻辑，必须人工确认锁粒度、事务边界与失败回滚策略，不能完全依赖模型推断。

七、小结

模型选型不是“谁分数高用谁”，而是“谁更适合当前任务的模糊度”。在国产化合规要求的政企项目中，可行的组合是：用大参数模型处理意图理解与契约设计，用小参数模型处理明确指令下的高效执行。两者搭配，既能保证项目沿着设计者的思路推进，又能在成本与工期之间取得平衡。

榜单分数只是参考，真正的评价标准只有一个：在真实项目的长链路上下文中，模型能否稳定地理解你的目的，并遵循那些没有写进提示词、但确实存在的约束。