先了解这件事
2026年11月3日,Dongxi 东锡 NLP 对 Rikiya Takehi 提出的 Weight-Space Programming 提出质疑,认为该方法带有 activation steering 的影子:先定位模型某种倾向对应的激活方向,例如算题停不下来的 loop 问题,再把写入该方向最多的 128 列权重中的对应分量投影掉。他指出 MMLU-Pro、GPQA、IFEval 等评估确实都有提升,但这些 benchmark 原本都受 loop 影响,loop 修好后分数自然全面提升,真正的问题是副作用。同日,MIT CSAIL 研究人员展示用 GPT-6 Astra 无需训练直接修改另一模型权重,仅改动 Qwen3.5-0.8B 的 0.016% 权重,就把 MATH-500 得分从 7.9% 提升到 48.1%,GSM8K 从 13.8% 提升到 67.1%,IFEval 从 21% 提升到 62.3%。
AI 根据公开报道生成
事件进展
2 个已确认进展
- 来源：马东锡 NLP
- 来源：Analytics India Magazine
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
11月3日
36氪 · AI
MIT 实验称 GPT-6 Astra 改写 Qwen 权重提分，Meta 研究员指其被夸大
MIT 联合团队实验称，GPT-6 Astra 在无训练数据、不跑反向传播的情况下只改动 Qwen3.5-0.8B 约 13 万个权重（占 8 亿参数的 0.016%），就让该模型在 MATH-500 上的准确率从 7.9% 升到 48.1%。Meta 研究员 Lucas Beyer 指出系统提示词已给出定向引导，研究者 Yunfan Zhang 翻阅日志后认为 Astra 只是识别出 Qwen 推理链陷入死循环并做了定向清除。文章还称，改动后多答对的 579 道题中有 576 道原本是因超时截断得零分，而在没有该缺陷的 Gemma 3 270M 上反复改权重，成绩始终在 6.8% 到 7.7% 之间。
36氪 · AI精选
MIT CSAIL 提出权重空间编程，GPT-6 Astra 改写 0.016% 权重让…
MIT CSAIL 团队提出「权重空间编程」，让 GPT-6 Astra 不训练、不算梯度，直接读取并改写神经网络权重。它只改动 Qwen3.5-0.8B 约 0.016% 的权重（131,072 个数字），就把 MATH-500 准确率从 7.9% 提到 48.1%，GSM8K 从 13.8% 升到 67.1%，IFEval 指令遵循从 21.0% 升到 62.3%。作者用 Gemma 3 270M 做对照，其 MATH-500 仅从 6.8% 微动到 7.0%，说明该方法主要是切除导致死循环的权重方向，而非凭空注入新知识。
The Rundown AI精选
MIT 研究：GPT-6 Astra 可直接改写其他模型权重，无需再训练
MIT 研究人员发布研究，显示 OpenAI 的 GPT-6 Astra 能通过直接改写模型权重来改进部分 AI 模型，而不必再走训练流程。阿里的小型 Qwen 模型数学得分原本为 7.9%，Astra 只改动 0.016% 的权重来减少重复输出的问题，修复后达到 48.1%；同样方法用在 Google 的 Gemma 3 上效果有限，其数学分数几乎没有变化。作者称这种能力未来可能让 AI 升级自身、按需为其他模型增删技能或检查隐藏问题。
36氪 · AI
MIT CSAIL 提出权重空间编程，GPT-6 Astra 直接改写神经网络权重
MIT CSAIL 团队提出权重空间编程方法，让 GPT-6 Astra 不训练、不算梯度，直接读取和修改神经网络权重。在 Qwen3.5-0.8B 上，Astra 仅修改约 0.016% 的权重，将 MATH-500 从 7.9% 提升至 48.1%，GSM8K 从 13.8% 提升至 67.1%，IFEval 从 21.0% 提升至 62.3%，主要原因是修复了模型陷入推理循环的故障。研究由博士生 Rikiya Takehi 与 Jayden Teoh 领衔，Omar Khattab 等参与，成果发布在《Sparks of Weight-Space Programming》研究博客；在 Gemma 3 270M 上追加实验的提升未超过约 1 个百分点，团队称仍需更多独立复现。
凤凰科技
MIT CSAIL 用 GPT-6 Astra 直接改写 Qwen3.5-0.8B 权重
MIT CSAIL 团队让 OpenAI 的 GPT-6 Astra 直接读取并修改 Qwen3.5-0.8B 的权重，仅改动约 0.016% 的参数，就把该模型在 MATH-500 上的成绩从 7.9% 提升到 48.1%，IFEval 提升约 3 倍，全程没有梯度下降和反向传播。团队将这套方法称为权重空间编程（WSP），并指出它消除的是模型已有能力发挥过程中的障碍，而非创造新能力，同样的方法用在 Gemma 3 270M 上只把 MATH-500 从 6.8% 推到 7.7%。该实验目前仅以博客形式发布，尚未产出经过同行评审的论文。
Swyx
swyx 谈权重空间编程：我们已到《呼吸》第二段
swyx 引用 Latent.Space 的一则研究介绍，称有了权重空间编程，我们现在到了特德·姜小说《呼吸》的第二段。被引内容提到，在一项 MIT 研究中，GPT-6 Astra 将 Qwen3.5-0.8B 在数学题上反复消耗 32K token 的循环定位到两个层，并编辑了 Qwen 0.016% 的权重，在采样固定的情况下把 MATH-500 得分从 7.9% 提升到 48.1%。
Analytics India Magazine精选
MIT 团队提出 Weight-Space Programming，让 LLM 直接读写神经网络权重
MIT CSAIL 研究人员提出 Weight-Space Programming，让通用 LLM 直接读取、解释并修改神经网络权重，不依赖梯度下降等传统训练方法。他们用 OpenAI 的 GPT-6 Astra 完成八组实验，其中仅修改 Qwen3.5-0.8B 的 0.016% 权重，就把 MATH-500 得分从 7.9% 提升到 48.1%，GSM8K 从 13.8% 提升到 67.1%，IFEval 从 21% 提升到 62.3%。Astra 还能在不运行网络的情况下仅凭权重识别网络训练目标，并直接生成在 Breakout 等游戏中超过 PPO 训练网络的权重。实验日志和提示词已发布在 GitHub，修改后的 Qwen3.5-0.8B 模型可在 Hugging Face 获取。
IT之家·人工智能
MIT 研究者提出权重空间编程：GPT-6 Astra 修改 Qwen3.5-0.8B 约 0.016% 权重…
MIT CSAIL 研究者提出「权重空间编程」，让 GPT-6 Astra 直接读取并修改 Qwen3.5-0.8B 的神经网络权重，仅调整约 0.016%（131072 个）参数，就把该模型在 MATH-500 上的成绩从 7.9% 提升至 48.1%，在 GSM8K 上从 13.8% 提升至 67.1%，全程未使用梯度下降或传统训练循环。Astra 先定位到模型在第 15 层和第 19 层 MLP 写入的重复方向，削弱了导致推理循环的信号，使数学测试中因触及 32768 Token 上限而未完成回答的比例从 93% 降至 33.1%，IFEval 成绩从 21.0% 升至 62.3%。对照实验中，Gemma 3 270M 因原本很少出现推理循环，MATH-500 仅从 6.8% 升至 7.7%，研究团队据此认为该方法能消除已有能力的障碍，但不一定能创造模型原本不具备的能力。
Hacker News 热门
MIT CSAIL 实验：GPT-6 Astra 直接解读并修改神经网络权重
MIT CSAIL 团队报告早期实验，GPT-6 Astra 无需编写训练循环即可解读并修改神经网络权重。在 Qwen 的一项测试中，作者称小幅权重改动显著提升了数学与指令遵循得分，但结果仍属初步。该发现由 Rikiya Takehi 及同事发布，在 Hacker News 上引发 623 条评论。
邵猛精选
MIT CSAIL 提出权重空间编程：GPT-6 Astra 改 Qwen3.5-0.8B 0.016% 权重…
MIT CSAIL 研究者提出「Weight-Space Programming（权重空间编程）」，让 GPT-6 Astra 对着自然语言目标直接读写神经网络权重，不靠梯度、不写训练循环。给 Qwen3.5-0.8B 改约 0.016% 权重（131,072 个）后，MATH-500 从 7.9% 升到 48.1%，GSM8K 从 13.8% 升到 67.1%，IFEval 从 21.0% 升到 62.3%，顶满 token 上限比例从 93% 降到 33%。作者认为权重编辑更像去掉挡住已有能力的障碍，还不等于凭空注入模型没有的能力，并承认上下文与 harness 仍很笨，正在做基准与 harness 以收成可复现工程。
indigo精选
MIT CSAIL 提出权重空间编程，GPT-6 Astra 直接改写 Qwen3.5-0.8B 权重
MIT CSAIL 博士生 Rikiya Takehi 及团队提出“权重空间编程”，让 GPT-6 Astra 直接读写神经网络权重，不训练也不算梯度。实验只修改 Qwen3.5-0.8B 约 0.016% 的权重，MATH-500 从 7.9 升到 48.1，GSM8K 从 13.8 升到 67.1；据作者说法，这修复了该 0.8B 模型的推理循环，数学能力最高提升 6 倍，指令遵循提升 3 倍。
Garry Tan
Garry Tan 转发小模型权重直接编辑的新用法
Garry Tan 转发 Rikiya Takehi 的帖子，称小模型出现一种新用法：直接操作权重。被引帖子称，他们让 GPT-6 Astra 编辑 Qwen3.5-0.8B 的权重以提升数学能力，只改动 0.016% 的权重，修复了 0.8B 的推理循环，数学能力最高提升 6 倍、指令遵循提升 3 倍，且不依赖梯度或训练，并将这一做法称为 Weight-Space Programming。
Yuchen Jin精选
研究者用 GPT-6 Astra 直接改写 Qwen3.5-0.8B 权重提升数学能力
Yuchen Jin 转述 Rikiya Takehi 的实验：用 GPT-6 Astra 直接编辑 Qwen3.5-0.8B 的权重来提升数学能力，仅改动 0.016% 的权重，就修复了该模型的推理循环，数学能力最高提升 6 倍、指令遵循提升 3 倍，全程不使用梯度也不做训练。作者把这种方法称为 Weight-Space Programming，认为前沿 LLM 已能原生读写神经网络权重，并称其比知识蒸馏更进一步。
Rohan Paul精选
MIT 研究显示 GPT-6 Astra 可直接改权重提升 Qwen3.5-0.8B 数学能力
MIT 研究者让 GPT-6 Astra 在 Python notebook 中直接编辑 Qwen3.5-0.8B 的权重，在 MATH-500 上把准确率从 7.9% 提升到 48.1%，全程不训练。Astra 获得权重和 50 次练习数学题测试预算后，发现模型反复重复直到触及长度上限，将这一习惯定位到 2 层写入的单个内部信号，并从权重中减去该信号。这次编辑只改动了 0.016% 的权重，作者将这一方法称为 Weight-Space Programming。
马东锡 NLP
东锡 NLP 质疑 GPT-6 Astra 权重编辑法：像 LLM 的贺建奎
Dongxi 东锡 NLP 对 Rikiya Takehi 提出的 Weight-Space Programming 提出质疑，认为该方法有 activation steering 的影子：先找到模型某种倾向对应的激活方向，例如算题停不下来的 loop 问题，再把写入该方向最多的 128 列权重中的对应分量投影掉。他指出 MMLU-Pro、GPQA、IFEval 等评估确实都有提升，但这些 benchmark 原本都受 loop 影响，loop 修好后分数自然全面提升，真正的问题是副作用。原帖称 GPT-6 Astra 只改动 Qwen3.5-0.8B 的 0.016% 权重，数学提升最高 6 倍、指令遵循提升 3 倍，且无需梯度或训练。
11月2日
Hacker News 热门精选
LLM 可直接读写神经网络权重：Astra 将 Qwen3.5-0.8B 的…
Rikiya Takehi 与 Jayden Teoh 等人的博客文章提出 Weight-Space Programming，发现 GPT-6 Astra 等前沿 LLM 能直接读写神经网络权重，无需梯度下降或训练循环。Astra 仅凭原始权重就能识别网络训练所用的游戏、扩散模型生成的形状和语言模型训练语料，还能从零写出在三个 MinAtar 游戏中击败训练 1 亿步 PPO 网络的权重。在 Qwen3.5-0.8B 上，Astra 定位到导致推理循环的权重方向，只改动 0.016% 的权重，就把 MATH-500 从 7.9% 提升到 48.1%、IFEval 从 21.0% 提升到 62.3%；但对很少循环的 Gemma 3 270M 则未能提升数学成绩。
本事件热度走势
- 当前
- 120
- 区间峰值
- 136 11月3日 19:00
- 近 24 小时变化
- —
移动指针或点击图表可查看每小时热度；键盘可用左右方向键切换。