大模型直接改写权重：免训练模型优化新范式

一、从“训练模型”到“编程权重”

过去十年，提升神经网络能力的主流路径非常固定：准备数据、定义损失、反向传播、优化器更新参数。整个过程依赖梯度，依赖大量算力，也依赖反复迭代。即便只是想让一个已经训练好的小模型在某个单项能力上表现更好，通常也要重新准备数据、设计微调策略，甚至重新训练。

但最近一种新的思路正在打破这个默认前提：让大模型直接读取、分析并编辑小模型的权重，而不经过梯度下降。

这套方法被命名为 Weight-Space Programming，权重空间编程。它的核心主张是：权重不只是训练产物，也可以像代码一样被理解、诊断和修改。大模型不再只是“生成文本”的工具，而是可以成为一个“权重级别的调试器”和“网络级别的程序员”。

换句话说，模型优化正在从“调参”走向“改参”，从“训练驱动”走向“分析驱动”。

二、核心实验：0.016%权重改动带来6倍能力提升

这套方法最有说服力的验证，来自一个参数量仅 0.8B 的小模型实验。

研究者将一个小模型的全部权重放入一个 Python 环境中，交给一个具备权重分析能力的大模型。任务只有一句话：

尽可能提高该模型的数学能力。

没有训练数据，没有梯度下降，没有反向传播。具体改什么、怎么改，完全由大模型分析后决定。

结果非常惊人：

• 在相同采样设置下，MATH-500 得分从 7.9% 提升到 48.1%；
• 数学运算能力约为原来的 6 倍；
• 被修改的权重比例仅约 0.016%；
• 原本未要求优化的指令执行能力也提升了约 3 倍。

这意味着，模型能力的瓶颈不一定在“参数不够多”，而可能在“权重组织中存在结构性缺陷”。只要找到关键位置，极小改动就能带来巨大收益。

三、问题定位：推理循环拖垮数学表现

研究者首先让大模型对这个小模型进行诊断。它发现，该模型数学表现差，并不是因为“不会算”，而是因为推理循环。

具体表现是：面对一道题，模型反复生成相似文字，迟迟不给出最终答案。在最初 96 条练习回答中，有 85 条一直跑到 32768 个 token 的长度上限。这个现象在模型自带的说明中也有提示。

大模型沿着失败表现一路追踪，最终将循环归因到前馈网络，并定位到第 15 层和第 19 层的各 64 个输出列。通过修改这些位置的相应权重，影响模型的输出倾向。

修改后，MATH-500 回答触及长度上限的比例从 93.0% 降到 33.1%。这说明，模型并非能力不足，而是被“无效循环”消耗了大量推理预算。一旦打断循环，原本被掩盖的数学能力就释放出来。

四、预算控制：10次、25次、50次前向调用的差异

权重空间编程并不是“一次修改就完事”。研究者给出了不同的前向调用预算，观察修改效果：

前向调用预算	MATH-500 得分
10 次	12.3%
25 次	14.1%
50 次	48.1%

可以看到，预算越大，大模型有更多机会验证、修正和迭代权重修改方案。50 次预算下，得分出现跃升。

这里需要强调：省掉的是梯度训练，但模型诊断和验证仍然存在。 大模型需要多次前向调用，观察修改后的行为变化，再决定下一步改哪里、怎么改。这是一种“分析—修改—验证”的闭环，而不是一次性盲改。

五、从修改到生成：从零写出网络权重

更进一步的实验是：让大模型从零开始写出一个小游戏网络的权重。结果同样不错。

它一次回复交卷，得分超过训练了 5 亿步的 PPO 基线 20 倍。这说明，权重空间编程不仅能“修模型”，还能“造模型”。大模型可以在权重空间中直接构造一个可用的网络，而不需要传统强化学习那套漫长训练流程。

当然，这并不意味着传统训练会被完全取代。更合理的理解是：对于特定结构、特定任务、特定规模的问题，权重空间编程提供了一条更短路径。

六、技术流程拆解

将这套方法抽象为通用流程，大致包含以下步骤：

1. 权重暴露与可读化

将目标模型的权重以结构化形式暴露给大模型。可以是张量列表、层索引、列索引，甚至可视化摘要。关键是让大模型“看得见”权重。

2. 行为诊断

给定任务和失败样本，让大模型分析模型行为。例如：输出长度、重复率、答案格式、错误类型。通过行为反推权重层面的问题。

3. 权重定位

将行为问题映射到具体层、具体列、具体权重区间。例如：前馈网络某层输出列导致循环。

4. 权重编辑

大模型生成新的权重值或修改指令。修改比例可以极低，但必须精准。

5. 验证与迭代

在预算内进行前向调用，观察修改后表现。若未达标，继续诊断与修改。

用伪代码表示：

for step in range(budget):
    behavior = forward(model, task_samples)
    diagnosis = llm_analyze(behavior, weights_summary)
    edit = llm_plan_edit(diagnosis)
    apply_edit(model, edit)
    score = evaluate(model, MATH_500)
    if score >= target:
        break

核心在于：梯度被大模型的分析与决策替代。

七、工程落地要点

若要将权重空间编程用于实际工程，需要注意以下几点：

1. 权重表示要分层

不要一次性把全部权重塞给大模型。应按层、按模块、按列进行摘要和索引，降低分析复杂度。

2. 诊断指标要可量化

例如：输出长度分布、重复 n-gram 比例、答案命中率、格式合规率。只有量化，才能定位。

3. 编辑粒度要可控

优先尝试小范围、低比例修改。0.016% 的改动就能带来 6 倍提升，说明精准比大规模更重要。

4. 验证预算要合理

10 次、25 次、50 次前向调用的效果差异巨大。预算不足时，可能只得到微弱提升；预算充足时，才可能触发跃升。

5. 安全与回滚

权重编辑可能引入不可预期行为。应保留原始权重快照，支持回滚，并在沙箱中验证。

八、风险与边界

权重空间编程目前仍处于早期阶段，存在明显边界：

• 可解释性有限：大模型为何选择这些权重，仍难完全解释；
• 任务依赖强：数学能力提升不代表通用能力同步提升；
• 规模限制：目前验证集中在 0.8B 小模型，更大模型是否同样有效仍需探索；
• 验证成本：虽然省掉梯度训练，但前向调用和诊断仍有成本；
• 安全风险：直接改权重可能绕过传统安全对齐机制。

因此，它更适合作为模型诊断与定向修复工具，而非完全替代训练。

九、总结

权重空间编程的核心启示是：

模型能力不仅取决于训练数据和参数量，也取决于权重组织方式。大模型可以直接理解并修改这种组织方式。

从 0.016% 权重改动带来 6 倍数学能力提升，到从零生成网络权重超过长期训练基线，这条路径展示了“免训练模型优化”的潜力。

对于开发者和企业用户而言，这意味着未来模型优化可能不再只有“继续训练”一条路。分析驱动、权重级编辑、闭环验证，正在成为模型工程的新工具箱。