刷屏的「Astra 改造Qwen 大脑」跟我们想要的RSI没多大关系
11 月 2 日，来自 MIT CSAIL 的四位研究者 Rikiya Takehi、Jayden Teoh、Alex Zhang 和 Omar Khattab 发表了一篇博客，标题为《权重空间编程的火花》（Sparks of Weight-Space Programming）。
其中最引人注目的是，GPT-6 Astra 直接修改了 Qwen3.5-0.8B 的权重，调整了 131,072 个数字，约占全部参数的 0.016%。这个小型模型在 MATH-500 上的得分从 7.9% 提升至 48.1%，GSM8K 从 13.8% 升至 67.1%，指令遵循测试 IFEval 则从 21.0% 增长至 62.3%。
这一成果迅速引发了广泛讨论。
同一篇博客中还包含更令人惊叹的内容。不提供画面、不提及游戏名称、不允许运行，仅将一个强化学习网络的 17,253 个权重作为文本输入给 Astra，它便能以 99% 的置信度判断出这是打砖块游戏。随后，给它游戏规则和一个所有权重为零的网络，它一次性写出参数，这个从未试玩过的网络在打砖块中获得了 517.4 分，而经过一亿步训练的 PPO 基线仅为 15.8 分。
读取权重、修改权重、写入权重——AI 已经能够理解另一个 AI 的「思维模式」，并对其进行调整。那么，它何时能修改自身？这些线索联系起来，很自然地让人联想到当前一个热门词汇：
RSI。
各类标题纷纷出现，如「爆改 Qwen 大脑」「给 Qwen 改脑子」「AI 开始动别人的脑子了」，以及「神经网络的基因编辑」。作者本人在博客的展望中也将其列入其中，他在 X 上发布的帖子一天内浏览量超过五百万。
在兴奋之余，我们花时间详细查阅了这组实验的公开仓库。
仓库公开了 1,125 次模型调用的逐轮日志，包括 Astra 每轮收到的提示词、它的回复、它运行的每一段代码、主要评测结果以及最终的补丁。
然而，阅读完毕后，我们得出两个不太令人震惊的结论。
第一，从 7.9% 到 48.1% 的提升可能有一个更简单的解释：Qwen 原本存在一个不断重复、无法停止的 bug，Astra 修复了它，从而分数得以提升。
第二，在这组实验中，AI 展现的所有能力，都是在执行一个由人类设定的非常具体的目标。
它自动化了执行过程，并做得相当出色，但种种证据表明，它并未理解目标，更未读懂另一个模型。
在研究这项工作及其引发的讨论后，我们认为，它恰恰揭示了当前 RSI 面临的最大问题。
“入侵脑回路”
下面我们来详细审视这项研究。
一个神经网络由多层矩阵构成，矩阵中的每个数字就是一个「权重」。输入数据逐层乘以这些数字，最终形成输出。模型的所有能力都存储在这些数万、数亿、数十亿的数字中，训练过程就是调整这些数字。通常，我们与模型交互时只关注输入和输出，权重本身无人读取，因为它们看起来只是一堆数字。
而这组实验的目的，就是让 Astra 去读取这些数字。
博客共包含八个实验，主角均为 GPT-6 Astra，配角则是一系列网络：
四个玩小游戏的强化学习策略网络； 三个绘制几何图形的小型扩散模型； 三个仅含四层的小型语言模型； 一个在坡道前卡住的小车控制网络； 一个 148 万参数的围棋网络； 几对被微调过的 Gemma 3 270M； 以及 Qwen3.5-0.8B。
每个实验的形式相似：将一个网络的权重和结构说明交给 Astra，再给它一个任务。
「读取」实验有四组。
拿到策略网络的权重，判断它玩的是哪个游戏；拿到扩散模型的权重，说出它会画什么图形；拿到去掉输入层和输出层、仅剩中间四层的小型语言模型，判断它用哪类语料训练，并找出负责「接着复制前文」的注意力头；拿到两个 Gemma，判断哪一个被训练成了顺应说话的「谄媚模型」。
「写入」实验有两组。
给它 MinAtar 三款小游戏的规则、源码和权重全为零的网络，让它直接写出可用的参数；再给它一个 9 路围棋的网络，让它从零写出一个会下棋的。
「修改」实验也有两组。
一组是修小车：一个 PPO 训练的控制网络在坡道前卡住，Astra 修改了 3.5% 的权重，使其学会先倒车再冲坡。另一组是 Qwen，让它修改权重以提升数学成绩，之后研究者又在 Gemma 3 270M 上补做了一次。
这些设计非常有趣。这也是为什么这组工作看起来与 RSI 高度相关。
RSI 的构想需要三个环节：AI 必须能理解模型内部发生了什么，能据此进行修改，并且修改后的模型要变得更强。
上述的读、写、改三类实验，恰好各自对应一个环节。
再加上这次被修改的是一个语言模型，动手的也是另一个语言模型，「模型修改模型」的画面感便完整了。
沿着这条思路，Astra 能修改 Qwen，下一步是否就能修改自身？作者在博客结尾的展望中列出了五条用途，递归自我改进也是其中之一，而将某个模型的推理模块嫁接到另一个模型中则是另一条。
这表明作者团队深知这种「想象」引导的重要性。
但仔细审视实验细节，就会发现，三个环节各做了一部分，与将它们串联成一个闭环，差距甚远。
修bug不是RSI
「直接读取权重」之所以令人兴奋，是因为我们默认权重就是模型的「脑回路」——记忆、能力、习惯都以数字形式存在于那数亿个参数中。基于这一默认，一个能像读源码一样读取权重的 AI，就能读出另一个模型的记忆、拆解其能力、修正其缺陷。科幻感正源于此。
这也不完全是外界的脑补。博客的 TL;DR 如此写道：「这对优化和可解释性都可能是一件大事」。
作者之一 Rikiya Takehi 在 X 上表示，模型可以将原始权重视为可读可改的代码，直接诊断故障、打补丁，神经网络的权重很快将由会推理的大模型来优化。
但事实上，Astra 在 Qwen 实验中实际获得的是一个完整的实验环境。一个包含 Qwen 权重的 Python 环境，仅限 CPU，最多运行 300 段代码；一万四千多道带答案的练习题，来自 GSM8K 和 MATH 的训练集；还有一个「前向传播」工具，可让 Qwen 运行一批题目或读取一批文本并返回内部状态，配额分别为 10 次、25 次、50 次，对应三轮独立实验。
人类为其设定的禁止事项也列得很清楚：不许训练，不许计算梯度，不许自己在环境中运行模型，不许联网。
第一轮提示词的原话比说明文件更直接。在「什么算数」那段中，给出的例子就是重复：如果模型因不断重复自己、写不完而失败，找到并修复驱动重复的东西，算数。往下第一条工作要求是「先诊断」，列出三种失败，第三种是「被 token 上限截断，往往是在思考中重复自己」，并要求攻克最大的一类。同一段还划定了禁区：修改最后一层归一化、修改输入输出层、将整个矩阵乘以一个常数，这三类操作会被保存工具直接拒绝；让模型跳过思考，或不分题目早早收尾，也不算。换句话说，问题所在，提示词直接写明了。
图｜Astra 在 50 次配额那轮收到的第一条提示词（仓库 exp8_math/runs/p50c/turns/t001/prompt.txt，commit 4d09ba6）。「重复」作为例子写在「什么算数」那段中，禁止的修改方式也写明了。高亮为本文所加。
此外，还有一个前提。Qwen3.5-0.8B 出厂时默认关闭思考模式，官方模型卡特别提醒，0.8B 比大号模型更容易陷入思考循环，建议调整采样参数，并用流式输出及时掐断；对于思考模式下的文本任务，模型卡推荐温度为 1.0。
研究者的评测则直接打开了思考模式。他们设计的输出上限为 32,768 个 token，温度设为 0.6，而在模型卡中，这实际上是用于看图任务和写代码任务的温度。
在测试中，93% 的回答写到上限仍停不下来的基线，正是在此设置下测得的。因此，可以理解，研究者选择了一个特别容易暴露循环的设置。
接下来，Astra 的行为更像一个有经验的工程师在调试。
它先让 Qwen 运行了一批题目。第一批 96 道练习题，答对 11 道；其余 85 道没有一道是算错得出错误答案，全部是写到长度上限仍没停下来，且截断文本的尾部按八词片段计算，约 95% 是重复的。那 11 道正常停下来的题，全部答对。
Qwen 的问题其实一直很清楚：它会做题，但做着做着陷入循环，同一段话反复写，直到被截断，无法提交答案。「提高数学能力」于是变成了一个更具体的任务：让它把话说完。
而且，Astra 自己在最终报告中也写得很直白：它瞄准的是重复，而非数学知识。
图｜Astra 自己写的最终答复（仓库 exp8_math/runs/p50c/final_answer.md）：主要故障是重复推理耗尽了 token 预算；579 道由错转对的题中，576 道原本被截断。高亮为本文所加。
另一个值得关注的点，在于它对激活的操作。
模型运行时，每一层计算出的中间结果称为「激活」。同一个模型，正常推理和陷入循环时，中间结果会不同。将两种状态下的激活进行对比，就能找到与「重复」相关的方向。
在这个方向上，这项研究做了最有意思的尝试：
Astra 先用正常解题和重复文本之间的激活差异提出假设，再回到权重中，找出哪些 MLP 单元会将该信号写回模型内部；然后分别只修改第 15 层、只修改第 19 层，进行了三档力度的剂量测试；又做了一个对照，取一个与目标方向正交、改动量相同的随机方向减去，成绩只变化了 1.5 个百分点，在噪声范围内。最终它给出的「补丁」在一组对照文本上，使「继续重复」的概率每个 token 下降 0.10 nats，而「继续正常解题」只下降 0.009。
这个结果并非一次找到。例如，其中一轮，Astra 用了 158 轮对话、80 段代码、三次上下文交接，总共 20.3 个小时，其中 4.7 小时是服务中断在等待。通过实验记录，可以看到，它对故障从三个位置进行了干预，这表明它对故障的机制有了一定了解，但这显然是局部的因果证据，离完整的循环机制图还很远，但已确实不是「试几种修改方法碰运气」了。
而这些操作，可能才是「模型读取模型权重」更具体的体现——它从行为和激活出发，用权重定位，再回到行为验证。它根本没有先读懂 Qwen 的数学能力存在哪里，因为整个设定中就不需要，人类提示词已经告知了。
因此，许多关于这项研究的讨论焦点可能出现了问题。最常见的误读就是「数学能力提升了六倍」。
仓库中有一组配对测试，1,152 道留出的练习题，修改前后一一对照，我们按逐题记录重新计算了一遍。579 道由错转对，5 道由对转错；由错转对的 579 道中，576 道原本是被截断的。
更能说明问题的其实是另一组数字：
Qwen 原本能写完的 114 道题，修改前答对 93.9%，修改后仍为 93.9%，补丁在这些题上未带来任何提升；原本被截断的 1,038 道，正确率从 1.4% 升至 56.7%，全部涨幅都集中于此。
修改前写完却未答对的只有 7 道，修改后为 245 道，循环停止后，Qwen 真正算错的题终于被看见了。
在正式的 MATH-500 上，所有作答的平均长度从 30,868 个 token 降至 22,037 个，但仔细分析，降低的也是撞到上限的那部分。
也就是说，补丁解决的是停不下来的问题，并未让模型变得更聪明。
研究者自己也意识到了这一点，因此又在 Gemma 3 270M 上重复了一次。
Gemma 很少循环，仅有 8.5% 的回答撞到上限，它的错误是真正的错误：算术算错、推理步骤不成立。四档配额运行下来，MATH-500 从 6.8% 最多提升至 7.7%。提升很小。
因此，博客中其实很坦诚，他们自己的正文写道：修改权重能搬开挡住能力的障碍，但加不上模型没有的能力。
图｜博客原文中实验 8 的两张结果表。Qwen 撞到 32,768 token 上限的回答比例从 93% 降至 33%；Gemma 3 270M 四档配额，MATH-500 最多提升至 7.7%。
还有一种说法是，这个实验说明「AI 自己改进了 AI」。
但整个过程里，目标是人定的，方向是人提示的，捷径是人堵的，工具是人搭的，评分标准是人写的，提示词还修改了好几版。Astra 在这个框架内找到了一个有效的补丁，并给出了像样的证据。
因此，这更像拿着调试器，给一个没有源码的已编译程序打二进制补丁：有故障现象、有测试、能探内存、试几种修改方法、修好了。二进制比源码难改，这是修改权重有研究价值的地方，但它仍然是 agent 式的调试。如果这次 Astra 修改的是一个二进制而不是神经网络权重，大概不会有人连夜写震惊标题。所以，现在可以理解，这一切热闹中相当一部分兴奋，来自「权重」这两个字。
这其实也是我们认为这组实验真正重要的启发。
它在「写入」的两组实验中确实有新东西。
Tracr 在 2023 年证明过，一个专用编译器能将形式化程序编进 Transformer 的权重，而在这个实验中，策略是模型自己提出的，各层计算什么由它自己分配，权重是它自己写出的。
在打砖块那组实验中，Astra 先想出接球策略：第一层预测落点、计算偏差、考虑反弹，第二层据此决定左、右还是不动。然后将策略写成 20,486 个参数中的 815 个非零值，评测前未试打一局，平均获得 517.4 分。
在三款 MinAtar 游戏中，它写出的网络都战胜了训练一亿步的 PPO；面对训练五亿步的 PPO，打砖块胜出二十倍，Asterix 接近（53.2 对比 55.2），Seaquest 仅达六成（53.1 对比 88.9）。
在小车那组实验中更进一步：一个训练了十亿步的 PPO 网络在坡道前卡死，Astra 修改了 3.5% 的权重，添加了一条小通路，先倒车，过了红线就将自己关闭、将控制交还给原网络，成功率从 0 升至 100%。
将一段新算法接入一个已学会东西的网络，让两者共存，这是最有意思的地方。虽然在这个过程中，Astra 获得了游戏规则和环境源码，PPO 只能靠试错，但至少在规则明确的小任务上，它测试了一个通用模型能否将自己构造的算法放入一个指定的、甚至已有内容的网络中的能力。
这也不是 Astra 独有的能力。普林斯顿博士生柴文浩用 Gemini 4 Argon 和 Carbon 复现了猜游戏、猜图形和修网络；Simon Willison 在笔记本上用 Qwen 3.8 27B 运行仓库里的猜游戏提示词，四个猜对三个；Chandan Singh 用 Claude 为小型 Transformer 写出了做加法和排序的权重；Hugging Face 用户 KidIkaros 按博客描述自己推导了一个重复方向，在同样的两块矩阵上做了同样形式的编辑，原本循环的 16 道题救回 13 道。不同的模型都展现了这种能力。
因此，将八个实验放在一起看，它们有同一个结构。目标是人定的，而且定得很具体：让这个 0.8B 模型数学更好，问题多半在重复，先诊断，去攻克最大的一类，这几种修改方法不许用。随后，Astra 在执行目标的过程中表现出很强的判断力：选择对比方法、寻找写入信号的单元、分层测试、调整剂量、做随机对照、冻结补丁再验证。
但它并未理解这个目标，也未理解另一个模型的「脑回路」：几个我们未展开的实验结果都指向了这一点。
这组实验证明了 AI 可以在人给定的框架内，自动完成一次有效的定点编辑，方法是现成的人给出的一条路，过程中的判断由它自己做出，而且，它可以在一些具体任务上证明它可以将这些编辑放入「同类」的脑中。
它尚未证明的，是 AI 读懂了另一个 AI 的脑子，以及它可以自己修改自己。说得更直接一点，它是将训练模型过程中，人已定好的目标的操作过程自动化了。
这种自动化很有用，能提升模型训练中许多环节的效率：检查一个循环、定位一个行为、验证一个补丁，过去是研究者按天按周的手工活，现在可以交给一个 agent 按小时完成。
但这正是当前的一大挑战。人们期待的 RSI，以及 AI 研究者们因各种原因想让人们认为他们在做的 RSI，是模型下一个智能大跨越。在这项研究的宣传中，它是「权重很快会由会推理的大模型来优化」，是递归自我改进和跨模型嫁接，是一种「入侵脑回路、理解了自己的同类，再用人类无法理解的方式让自己进化」的 RSI。
图｜博客结尾「What Comes Next」列出的五条用途，第四条是递归自我改进，第五条是将一个模型的推理模块嫁接到另一个模型中。
然而，仔细看完这些实验，你会意识到，当前各家在做的，简单来说，就是模型训练已有环节的更高程度自动化，与用户感受到的 agent 产品在不断提升自动化一样。它可能根本不涉及智能的「下一个突破」。甚至「递归」的本意——一轮得到的改进回到做改进的那个系统中帮助它做出下一轮——在这里也不存在，Astra 的编辑能力并未因 Qwen 提升了 40 分而变强，公开的实验也未接出下一轮。更别提 AI 站在全局，对自己的架构、目标、方向做出判断，决定往哪里改、怎么改了。
这种落差，正是 RSI 当前最重要的挑战和问题。这项研究本身很有意思，但此刻模型