立场：面向 LLM 的对抗机器学习没有取得进展
Position: Adversarial ML for LLMs Is Not Making Any Progress
AI 导读
Javier Rando、Jie Zhang、Nicholas Carlini 与 Florian Tramèr 在立场论文中认为，大语言模型时代的对抗机器学习研究没有取得实质进展。论文指出，过去十年针对对抗环境下机器学习模型的安全研究进展缓慢，即使是对小扰动鲁棒性这类玩具问题也常受非严谨评测拖累。作者认为 LLM 时代的情况更糟：该领域研究的问题定义更不清晰、更难求解、也更难评测，并警告再投入十年也可能无法产生有意义的进展。