跳到正文
原文
实践哥 Li· @MinLiBuilds · X·本站收录· 原文发表

MIT CSAIL 研究称 AI 直改 Qwen3.5-0.8B 权重,MATH-500 从 7.9% 升至 48.1%

AI 导读

MIT CSAIL 的研究据称让 AI 直接修改 Qwen3.5-0.8B 约 0.016% 的权重,使 MATH-500 从 7.9% 升至 48.1%,约 6 倍,无需训练或 LoRA。发帖者称 Qwen 的提升主要来自修复推理死循环;研究团队对无明显死循环的 Gemma 3 270M 也基本未观察到提升。发帖者还称,其对人物识别网络的类似权重编辑尝试未见效果。

正文 · 原文

😲 让人兴奋得有点害怕。MIT CSAIL直接让 AI 编辑权重文件,数学性能提升了 6 倍。

直接编辑权重,不用训练!

传统路子,靠微调或 LoRA。这次他们让 AI修改 Qwen3.5-0.8B 约 0.016% 的权重,MATH-500 从 7.9% 飙到 48.1%。结果真干成了。

🤔 Qwen 的提升主要是修复了推理死循环。

我早上拿人物识别网络试过类似的权重编辑,没什么效果。

研究团队对没有明显死循环的 Gemma 3 270M,也基本没提升。

🔥 这条路还是很牛逼的。

直接改神经网络,可能可以揭开 AI 神秘面纱。

原文在
https://x.com/rikiyatakehi/status/2117313742891327994

中文版 👇

引用yishan@tspy
https://x.com/i/article/2117400954589073408
在 X 查看被引用的帖子

来源:实践哥 Li · x.com