Ethan Mollick 转发 GPT-6 Astra 直接改写模型权重的研究
Waiting for replication but this is a pretty big deal.
Ethan Mollick 转发 Rikiya Takehi 的一项研究并表示等待复现,但认为这是件大事。该研究称让 GPT-6 Astra 直接修改 Qwen3.5-0.8B 的权重以提升数学能力,只改动了 0.016% 的权重,就修复了该模型的推理循环,数学能力最高提升 6 倍、指令遵循提升 3 倍,全程不使用梯度或训练,作者称之为 Weight-Space Programming。
查看原帖我们让 GPT-6 Astra 编辑 Qwen3.5-0.8B 的权重以提升数学能力。 它仅直接改动了 0.016% 的权重,就修复了 0.8B 的推理循环,数学能力最高提升 6 倍,指令遵循能力甚至提升 3 倍,全程无需梯度或训练。 我们称之为权重空间编程(Weight-Space Programming):前沿大语言模型如今已能原生读写神经网络权重!🧵 博客:https://t.co/bOWCcFhCVq
查看原文
We asked GPT-6 Astra to edit Qwen3.5-0.8B weights to improve math. It directly changed only 0.016% of weights, fixing 0.8B's reasoning loops & improving math up to 6x and even instruction following 3x, without gradients or training. We call this Weight-Space Programming: frontier LLMs can now natively read/write neural network weights! 🧵 Blog: https://t.co/bOWCcFhCVq
正文 · AI 翻译
正在等待复现,但这件事相当重要。