MIT CSAIL 研究称 AI 直改 Qwen3.5-0.8B 权重,MATH-500 从 7.9% 升至 48.1%
AI 导读
MIT CSAIL 的研究据称让 AI 直接修改 Qwen3.5-0.8B 约 0.016% 的权重,使 MATH-500 从 7.9% 升至 48.1%,约 6 倍,无需训练或 LoRA。发帖者称 Qwen 的提升主要来自修复推理死循环;研究团队对无明显死循环的 Gemma 3 270M 也基本未观察到提升。发帖者还称,其对人物识别网络的类似权重编辑尝试未见效果。
正文 · 原文
😲 让人兴奋得有点害怕。MIT CSAIL直接让 AI 编辑权重文件,数学性能提升了 6 倍。
直接编辑权重,不用训练!
传统路子,靠微调或 LoRA。这次他们让 AI修改 Qwen3.5-0.8B 约 0.016% 的权重,MATH-500 从 7.9% 飙到 48.1%。结果真干成了。
🤔 Qwen 的提升主要是修复了推理死循环。
我早上拿人物识别网络试过类似的权重编辑,没什么效果。
研究团队对没有明显死循环的 Gemma 3 270M,也基本没提升。
🔥 这条路还是很牛逼的。
直接改神经网络,可能可以揭开 AI 神秘面纱。
原文在
https://x.com/rikiyatakehi/status/2117313742891327994
中文版 👇
https://x.com/i/article/2117400954589073408在 X 查看被引用的帖子