跳到正文
原文
India Today·本站收录· 原文发表

AI 能修复另一个 AI 的大脑吗?MIT 研究者用 GPT-6 Astra 提升 Qwen3.5-0.8B 的数学能力

Can AI fix another AI's brain? MIT researchers use GPT-6 Astra to boost Qwen's maths skills

AI 导读

MIT CSAIL 研究者让 OpenAI 的 GPT-6 Astra 通过 Python 环境直接读写阿里 Qwen3.5-0.8B 的权重,在不重训练、不用梯度的情况下修复了模型陷入重复推理、有时直到 32768 token 上限的问题。据论文,Astra 只改动了 131072 个权重,占总权重 8 亿的 0.016%,Qwen 在 MATH-500 上的成绩从 7.9% 升至 48.1%,GSM8K 从 13.8% 升至 67.1%,IFEval 从 21% 升至 62.3%。研究者称 Astra 并未教 Qwen 新的数学概念,而是解除了阻碍其运用已有能力的故障。这项被称为 Weight-Space Programming 的技术仍有局限,Astra 仅凭权重无法分辨两个模型中哪个被训练得迎合用户,需要借助注意力信息;团队已公开实验日志并正在开发相关基准。

阅读原文indiatoday.in