局部改权重缓解小模型推理循环

IT之家#模型优化#权重编辑#推理循环

Editor brief · 编辑速览

据报道，MIT 研究者让 GPT-6 Astra 分析并修改 Qwen3.5-0.8B 的约 0.016% 权重，无梯度更新下将 MATH-500 成绩从 7.9% 提至 48.1%。提升主要来自抑制重复生成，且在原本很少循环的 Gemma 3 270M 上收益有限。

文章思维导图

Knowledge map

拖拽缩放

AI deep read

AI 深度解读

只改约 0.016% 的权重，就让小模型的数学成绩达到原来的约 6.1 倍，关键可能在于消除了反复生成、迟迟不给答案的障碍。IT之家转述的这项 MIT CSAIL 研究，让 GPT-6 Astra 直接分析并修改 Qwen3.5-0.8B 的权重，没有采用梯度下降或传统训练循环。

对程序员更有参考价值的，是他们如何定位故障，以及另一个模型为何没有获得同样的提升。读懂这两点，才能判断「权重空间编程」究竟解决了什么。

Qwen3.5-0.8B 在这次实验中有一个明显问题：做数学题时容易反复生成相同内容，直到耗尽 32768 个 Token 的长度限制。最初的 96 次测试回答中，有 85 次触及上限。

这会直接影响评测成绩。模型即使生成了部分正确推理，如果一直绕圈、无法完成答案，已有能力也难以转化为得分。

研究团队给 GPT-6 Astra 提供了能够读取和修改权重的 Python 环境，并允许它使用 GSM8K 和 MATH 训练集中的练习题，进行有限次数的前向推理。前向推理就是实际运行模型、观察输出，不涉及反向传播更新参数。

Astra 随后定位到第 15 层和第 19 层 MLP，也就是多层感知机，写入的一种「重复方向」。按报道的描述，它通过修改这两层的部分权重，削弱了促使模型陷入推理循环的信号。

这次提升首先支持的是：修复生成障碍，可以释放模型已经具备的能力。

最终，Astra 修改了 131072 个权重，占模型约 8 亿个参数的 0.016%。在允许进行 50 轮前向推理的实验中，结果如下：

其中，MATH-500 成绩约为原来的 6.1 倍，IFEval 约为原来的 3 倍。数学测试中，因生成长度达到上限而未能完成回答的比例，也从 93% 降到了 33.1%。后者仍然不低，说明循环问题并未被彻底解决。

这里需要分清两件事：实验没有使用梯度下降、反向传播或传统训练循环来更新参数，但仍然进行了权重分析、Python 运算和最多 50 轮前向推理，也使用了训练集中的练习题。

因此，它展示了一种不同于常规训练的参数修改方式，却不能直接推出「优化几乎免费」。报道没有交代 Astra 的调用成本、总耗时，也没有说明每轮前向推理包含多少题，更没有提供与常规微调的成本对照。

另外，最初 96 次回答中的 85 次触顶，与后面数学测试的 93% 不是同一组明确交代的统计口径，不宜混在一起计算。

研究团队还测试了 Gemma 3 270M。这个模型原本很少出现推理循环，类似的局部权重修改没能显著提高数学成绩：MATH-500 最多从 6.8% 提升到 7.7%。

这个结果给标题里的巨大增幅加上了重要前提：被修改的模型，恰好存在一个能被局部修复、又严重拖累得分的故障。

作者据此提出，权重空间编程可以消除已有能力发挥过程中的障碍，却未必能创造模型原本不具备的能力。Gemma 的结果与这个解释一致，但仅凭报道中的两组模型实验，还不能把它当成普遍规律。

研究还尝试让 Astra 只读取权重来识别模型训练过的游戏、判断小型语言模型的训练语言，以及直接编写能够运行游戏的神经网络。不过，报道没有给出这些实验的具体成绩，现阶段只能把它们视为研究方向的补充。

我更看重这项工作的故障定位思路：先找到模型为什么无法完成任务，再考虑应该改哪里。数学成绩和指令遵循成绩同时上升，也与「生成过程中的共同障碍得到缓解」这一解释相符，但报道没有提供足够细节来确认全部因果关系。

它距离普通团队可直接采用的优化方案，还有几个缺口：权重修改过程能否稳定复现，其他任务是否退化，换模型后能否找到同类问题，原文都没有说清。

与常规微调相比，它在这次实验里修改的参数很少；与应用层的重复检测、输出长度控制相比，它直接处理了模型内部信号。但没有同条件对照，就无法判断哪种方式效果更好、成本更低。研究者关于未来优化潜力的判断，目前仍需要更多实验支撑。