红队测试的方法、组织与公开结果。
FAR.AI 系统研究了不同规模 LLM 的对抗鲁棒性，发现未做对抗训练的模型鲁棒性随规模提升很弱且噪声很大，而对抗训练后规模效应明显。研究用 Pythia 系列模型（7M 到 1B 参数）替换 unembedding 层为分类头，在 IMDB、Spam、PasswordMatch、WordLength 四个二分类任务上微调，并用 GCG 和 RandomToken 两种对抗后缀攻击各追加 10 个 token 进行评估。未防御模型虽整体上越大越鲁棒，但训练 checkpoint 和随机种子带来的波动可超过模型规模翻倍甚至十倍的影响。对抗训练后，更大模型样本效率更高、收敛到更低的攻击成功率，且对更强或不同方法的攻击出现鲁棒性迁移，但迁移只在足够大的模型上成立。作者指出这只是初步结果，仅覆盖两个数量级，未来将扩展到生成任务和前沿模型。
推荐理由FAR.AI 用 Pythia 系列系统测量对抗鲁棒性随模型规模的变化，为判断哪些安全问题能靠规模解决提供了实验依据。
FAR.AI 测试了三种提升 KataGo 对抗鲁棒性的防御方法，发现它们都能被新攻击绕过。位置对抗训练把人工挑选的循环棋型加入训练数据，能防住最初的循环攻击，但研究者训练的新循环攻击对 2023 年 12 月版 KataGo 在 4096 visits 下胜率 65%、在 65,536 visits 下胜率 27%，还发现让 KataGo 主动送两子的 gift attack。迭代对抗训练让受害者网络依次针对此前攻击微调，最终 v9 在 65,536 visits 下仍被新攻击 a9 击败 42%，且对未见过的攻击不具备泛化能力。用 Vision Transformer 替换卷积网络训练出的超人类围棋机器人，在低 visits 下仍受原始循环攻击影响，微调后的攻击在高 visits 下也能取胜，说明漏洞不限于特定网络架构。
推荐理由FAR.AI 用围棋对抗攻防检验三种防御思路，说明超人类系统也可能被新攻击绕过，为鲁棒性研究提供可迁移的对照。
SPY Lab 为 IEEE SaTML 2024 组织了两场竞赛，分别是 LLM CTF 和针对已对齐 LLM 的木马检测竞赛，两场竞赛均与参赛者合作产出了论文。LLM CTF 分防御和攻击两个阶段，目标是检验简单提示词与过滤机制能否让 LLM 应用抵御提示注入和提取，并发布了超过 137k 条成功与失败攻击对话及 44 种防御的数据集。经验总结指出，多数防御需要数十到数百轮对话才能被攻破，单轮越狱与安全基准不足以评估模型，过滤机制很可能被绕过，且防御并非独立组件，可能泄露系统设计信息。
推荐理由组织者复盘两场竞赛的攻防结果，其中多轮攻击与后门搜索的发现可用于改进模型安全评测设计。
FAR.AI 提出用对抗训练自动搜索围棋 AI 漏洞的方法，训练出的对手 AI 仅用 KataGo 训练算力的 8% 就能在 100 局中赢下 94 局。该方法把 AlphaZero 式自博弈改为 victim-play，并修改 MCTS 让模拟中双方各自按自己的策略网络采样走子。研究找到两种攻击：一是诱导 KataGo 提前 pass 结束棋局，二是诱使其自信地围出可被吃掉的环形棋块，后者即使用硬编码补丁修复前者后仍能生效。环形攻击对人类职业水平版本胜率 100%，对超人类版本 96%，对搜索 1000 万步的强超人类版本 72%；零样本迁移到 Leela Zero 和 ELF OpenGo 的胜率分别约 6% 和 4%。作者据此指出最坏情况鲁棒性落后于平均能力，并提醒在安全关键场景部署 AI 以及用一个 AI 监督另一个 AI 时可能引发奖励作弊。
推荐理由FAR.AI 用对抗训练在围棋 AI 上自动挖出可迁移的漏洞，为「能力越强是否越鲁棒」提供了具体反例。
Nicholas Carlini 基于其 ICML 2018 最佳论文《Obfuscated Gradients Give a False Sense of Security》的演讲，整理出评估对抗样本防御的建议。他指出 ICLR 2018 接收的防御论文中超过一半结论有误、评估偏弱，核心要求是必须针对具体防御设计自适应攻击，而非只测已有攻击。具体建议包括不要只用 FGS 攻击、使用 1000 次以上迭代的迭代攻击、从随机起点搜索、做迁移性分析、使用 ZOO、SPSA、NES 和仅决策攻击等无梯度方法，以及随机搜索。
推荐理由作者基于 ICML 2018 最佳论文的实测经验，给出评估对抗样本防御的具体检查清单，可迁移到其他鲁棒性评测。