MIT CSAIL 团队让 GPT-6 Astra 直接修改 Qwen3.5-0.8B 权重，MATH-500 成绩从 7.9% 升至 48.1%

MIT CSAIL 团队让 GPT-6 Astra 通过自然语言直接读取并修改 Qwen3.5-0.8B 的权重，只改动约 0.016% 的参数就把 MATH-500 成绩从 7.9% 提升到 48.1%。Astra 在有限次前向计算中定位到第 15 层和第 19 层 MLP 写入的一个循环方向，从这两层各 64 个输出列中减去该方向，共修改 131,072 个权重，没有重新训练或使用梯度下降。在 Qwen3.5-0.8B 上，GSM8K 从 13.8% 升至 67.1%，IFEval 从 21.0% 升至 62.3%，触及 32,768 个 Token 上限的比例从 93% 降至 33%。博客地址：https://rikiyat.github.io/blog/weight-space-programming/