LLM 可直接读写神经网络权重:Astra 将 Qwen3.5-0.8B 的…
Rikiya Takehi 与 Jayden Teoh 等人的博客文章提出 Weight-Space Programming,发现 GPT-6 Astra 等前沿 LLM 能直接读写神经网络权重,无需梯度下降或训练循环。Astra 仅凭原始权重就能识别网络训练所用的游戏、扩散模型生成的形状和语言模型训练语料,还能从零写出在三个 MinAtar 游戏中击败训练 1 亿步 PPO 网络的权重。在 Qwen3.5-0.8B 上,Astra 定位到导致推理循环的权重方向,只改动 0.016% 的权重,就把 MATH-500 从 7.9% 提升到 48.1%、IFEval 从 21.0% 提升到 62.3%;但对很少循环的 Gemma 3 270M 则未能提升数学成绩。
#论文/研究#推理#数据/训练