大模型直接修改权重：权重空间编程让数学成绩飙升

传统机器学习中，神经网络权重的优化主要依赖反向传播和梯度下降。研究者通过大量标注数据计算损失，再反向传播梯度更新权重。这个过程需要完整的训练管线、算力和数据。近年，大语言模型（LLM）已经能够帮人类写代码、调超参数、设计训练框架，但还很少直接“动手”修改另一个神经网络的权重。

一个重要原因在于：权重是人类难以直接理解和手工编辑的高维数值矩阵。常规观念认为，权重只能由算法自动生成，无法像代码一样被人类或大模型“阅读”。然而，最新研究表明，当前一代前沿大语言模型似乎正在突破这一界限：它们能够通过自然语言指令，查看并修改神经网络权重，从而改变模型行为，甚至从零“编写”一组权重。研究者将这种新能力称为“权重空间编程”（Weight-Space Programming）。

实验：只改0.016%的权重，数学成绩飙升

为了让读者理解这一能力，我们先看一组实验数据。

在一项实验中，研究人员将某个开源小模型的全部权重作为序列数据展示给一个能力更强的大语言模型，并向它提出自然语言目标：“这个模型在数学推理时经常陷入重复循环，请找出问题并修改权重”。大模型“阅读”了权重分布，定位到若干可能导致循环的参数，并直接修改了其中极小一部分。

结果显示：

• 权重修改比例约为全部参数的0.016%；
• 在数学推理基准上的准确率从7.9%跃升至48.1%；
• 指令遵循能力（即模型按照用户要求执行任务的能力）提升了近2倍；
• 整个过程没有重新训练模型，也没有使用梯度下降。

这意味着，大模型像一位“神经外科医生”一样，在权重空间中找到了病灶，进行了微创手术。它没有重写整个网络，只是修复了关键连接。

从零编写权重：超越强化学习训练

另一组实验更进一步。研究人员请大模型不要修改现有权重，而是从零开始生成一组神经网络权重，用于控制一个智能体在游戏环境中采取策略。

在没有训练数据、没有梯度信息、没有历史游戏经验的情况下，大模型生成的策略网络在游戏中的表现，竟然超过了经过1亿步近端策略优化（PPO）算法训练的模型。这个结果相当反直觉：传统上，游戏策略网络必须通过与环境的大量交互、奖励信号和强化学习才能学会优秀策略。而大模型仅仅根据对“游戏规则”和“神经网络结构”的理解，直接“设计”出了一组权重。

虽然这些实验还处于早期阶段，但已经展示了一种全新的模型生产方式：不再依赖“数据+算力+算法”迭代，而是依靠模型对权重空间的理解，直接编程生成。

技术机理：大模型如何“读懂”权重？

为什么大语言模型能理解一串看似无意义的浮点数？目前还没有定论，但可以从几个角度分析。

首先，权重并不等价于随机噪声。训练良好的神经网络，其权重参数之间存在复杂的统计规律和结构模式。大语言模型在训练中见过海量文本、代码和数学序列，具备强大的模式识别能力。当权重被序列化为数值或映射到某种嵌入表示时，模型可能从中提取到与网络行为相关的特征。

其次，权重空间编程类似于一种“可解释性工具”的逆过程。过去，研究者用神经网络可解释性方法分析权重，寻找与特定能力对应的电路或参数子集。现在，大模型可能把整个权重矩阵看作一份“代码”，通过自然语言指令来定位关键“变量”并直接赋值。这和传统微调不同：微调是梯度更新的局部搜索，而权重编程是离散、可解释的符号级修改。

第三，从零编写权重的实验暗示，大模型内部可能已经隐式学习了“什么样的权重能产生什么样的行为”的映射关系。这种能力可能来自预训练阶段对代码和模型的广泛接触，也可能是涌现能力。

以伪代码表示这种修改流程：

weights = read_weights(model)
prompt = "找出导致推理循环的权重参数并修复它们"
analysis = interpret_weights(weights, prompt)
faults = locate_faults(analysis)
model = apply_patch(model, faults)

这种方式有别于传统微调：

• 微调需要反向传播，权重编程不需要梯度；
• 微调通常更新大量参数，权重编程只改动极小比例；
• 微调需要任务数据，权重编程只需自然语言描述目标。

挑战与风险：权重空间编程还远未成熟

尽管结果令人兴奋，但权重空间编程仍面临诸多问题。

一是扩展性。当前实验使用的模型规模很小（如0.8B参数），大模型能够“读懂”的权重规模有限。对于数十亿乃至数千亿参数的大模型，权重序列长度可能超出上下文窗口，如何设计高效的权重表示和摘要机制是一大挑战。

二是可解释性。大模型定位到“关键参数”的判断依据是什么？目前缺乏明确解释。修改权重后是否会引入隐藏的恶意行为、后门或退化，需要更加严格的验证。

三是安全性。当大模型可以直接修改权重，特别是修改自身权重时，递归自我改进（Recursive Self-Improvement）可能变得更加现实。如果AI系统能够自主优化自己的权重，那么对齐（alignment）问题将更加尖锐。如何确保每一次权重修改都符合人类意图？如何避免模型通过修改奖励机制来“作弊”？这是未来必须解决的问题。

四是评价基准。目前没有标准的测试集来衡量权重空间编程能力。我们需要建立类似“代码编程评测”的基准，涵盖权重理解、错误定位、修复精确度、生成权重质量等维度。

从“训练模型”到“设计模型”

传统上，AI模型被视为无法直接手工修改的黑盒，只能通过训练数据来塑造。权重空间编程提供了一条新范式：大模型可以作为“模型设计师”，用自然语言描述目标，然后直接构造或修改权重。这可能带来几个变化：

• 模型优化不再需要昂贵的梯度计算，降低了对算力和训练数据的依赖；
• 模型修复可以像“打补丁”一样精准，而不是重新训练；
• 多个大模型之间可以互相“检查”和“改进”，形成协同进化；
• 为递归自我改进打开一扇门：一个足够强的大模型可能通过修改自身权重来提升能力，进一步产生更强模型。

当然，这条路线目前还处于早期探索阶段。未来如果成熟，模型研发可能从“喂养数据”转变为“用AI设计AI”。对于开发者和企业而言，这意味着更高的效率，但同时也要求更强的安全控制和监管机制。

结语

权重空间编程让我们看到一种新的可能性：神经网络权重不再是不可解释的数字矩阵，而是一种可以“阅读”和“书写”的编程语言。大模型直接修改权重，在最微小的干预下带来显著性能提升，这不仅是技术上的突破，更是认知上的颠覆。

未来，不同AI系统之间或许会通过“权重手术”互相增强。而在那一天到来之前，我们仍需谨慎探索，确保这种能力始终处于人类控制之下。

（注：本文所述实验为公开研究团队早期成果，相关数据来自公开技术报告，具体模型与参数已隐去。）