SoK 论文提出面向意图的多轮 LLM 越狱分类体系

一篇 SoK 论文提出面向意图的四部分分类体系，按对抗意图结构系统整理多轮 LLM 越狱攻击。作者通过受控消融实验发现，攻击效果取决于意图在多轮之间被组织的方式，而非上下文长度或查询次数。研究进一步指出，意图的组织方式决定了其可被检测的层级，检测面需要从单轮层级扩展到会话层级乃至跨会话层级。作者据此认为，仅针对单轮的安全机制在结构上不足，单点评测也忽略了意图的组织方式，需要与有害意图可观测层级相匹配的评测协议。代码已公开。

WebMirage 用对抗图像劫持视觉网页 Agent 的浏览器操作

研究者提出 WebMirage，一个针对视觉网页 Agent 的端到端红队框架，通过在被控图像上施加局部视觉扰动，让 Agent 选中攻击者控制的内容并执行对应浏览器操作。该框架用角色槽抽象与网页重组建模候选元素之间的竞争，并用 dataflow 分析把优化目标对齐到动作后处理阶段，只保留决定浏览器命令的 token。在四种 Agent 配置、六种 VLM 主干、覆盖 13 个公开网站与沙箱基准的 2250 个任务上，WebMirage 平均攻击成功率为 91.9%，最强基线为 17.4%。三种现有 Agent 级防御下攻击成功率仍在 86.5% 至 91.9% 之间；让候选标识符随机化的自适应防御把成功率从 93.8% 降到 11.7%，但干净任务准确率也从 100% 降到 15.9%。

推荐理由论文把视觉红队建模为从视觉定位到浏览器执行的端到端过程，展示了该攻击在多种 Agent 配置下的成功率与现有防御的覆盖情况。

ASPIRE：面向 LLM Agent 的开放式提示注入红队引擎

研究者提出 ASPIRE，一个面向 LLM Agent 的开放式、行为级漏洞发现红队引擎，用于应对 Agent 检索不可信内容并通过工具行动所带来的间接提示注入风险。ASPIRE 维护一个持续演化的 Agent Security Behavior Graph，用互补的 Explore 与 Exploit 专家发现、验证并泛化以后果为中心的测试；轨迹证据用于更新该图并诊断部分或失败的尝试，跨运行记忆则迁移有效的红队策略。论文称在多个基准上的实验显示，ASPIRE 在后果、注入方法、环境和行为路径上大幅扩展了覆盖范围，同时保持较高的攻击成功率。

研究者提出 PackHallu：经规则文件提示注入对编码 Agent 发起包幻觉攻击

研究者提出包幻觉攻击，攻击者在社区共享的规则文件（如 .cursorrules）中注入恶意提示词，诱导编码 Agent 把合法依赖替换为攻击者控制的包。为生成有效注入提示词，作者提出 PackHallu 进化优化框架，利用轨迹级反馈和 LLM 引导的变异迭代改写注入内容。在多个基准、LLM 和 Agent 框架上的评测显示，PackHallu 取得较高攻击成功率，并在不同模型与 Agent 组合间具有较强迁移性。研究认为编码 Agent 易受此类攻击影响，自主编码系统需要更强的安全防护。

SLIP：无需外部攻击模型的多轮自我越狱，在 11 个模型上平均成功率 94.7%

研究者提出 SLIP（Self-Jailbreaking via Lexical Insertion Prompting），一种无需外部攻击模型的黑盒越狱方法：先以生成安全训练数据为名让目标模型自己产出良性/有害提示-补全对，再通过多轮对话逐步插入攻击目标中缺失的关键词，用广度优先树搜索寻找最短越狱路径。在 AdvBench 和 HarmBench 上，SLIP 对 11 个模型（含 GPT-5.1、Claude-Sonnet-4.5、Gemini-2.5-Pro、DeepSeek-V3）取得 90–100% 攻击成功率，平均 94.7%（AdvBench）和 94.4%（HarmBench），平均仅约 7.9 次模型调用，比此前方法少 3–6 倍。Claude-Opus-4.5 最难攻破，为 61.4%/68.7%。

推荐理由论文提出无需外部攻击模型的自我越狱方法，在 11 个模型上给出成功率与查询成本，并附一个对话级检测防御。

ATLAS：用自适应信任域与主动学习搜索潜在对抗样本集

ATLAS 是一个基于查询的黑盒对抗攻击框架，将攻击生成建模为主动学习中的水平集估计问题，结合校准近似与局部-全局采样架构定位并采样包含对抗样本的输入区域。在 MNIST、CIFAR 和 ImageNet 的标准与对抗训练模型上，ATLAS 生成的对抗样本比 NES、SignHunter、BayesOpt 等查询式黑盒攻击更具代表性，并在有限查询预算下覆盖更多对抗区域。该框架可用于开发中系统的鲁棒性分析与持续审计。

NeuroSploit v4.2.0 在 GOAD 上的评测：结构化智能体编排提升 AD 渗透测试

开源 Rust 自主渗透测试框架 NeuroSploit v4.2.0 在 GOAD 靶场（5 台虚拟机、2 个森林、3 个域）上完成评测，其编排 22 个 AD 专用智能体与 7 套多阶段攻击链 playbook，覆盖枚举、Kerberoasting、AD CS（ESC1-ESC8）、DCSync、跨森林信任滥用等完整杀伤链。对 Claude Opus 4.6/4.7/4.8、GPT-6 Astra、GPT-5.6 Sol、Grok 4.6、Qwen 3.8、GLM 5.3、Kimi k3 九个前沿模型的测试显示，框架实现 96-100% 技术覆盖率与 90-97% 精确率，直接调用仅覆盖 21-54% 且误报多出 3.2 倍；使用 Opus 4.8 时 134 分钟完成三域完全攻陷，护栏机制阻止了触发锁定的喷洒、未授权 DCSync 转储与越界侦察。

TAPDreamer：可跨任务迁移的世界动作模型对抗补丁

研究者提出 TAPDreamer，一种针对世界动作模型的对抗补丁攻击，仅用公开编码器构造固定局部扰动，无需查询目标策略即可跨任务和动作架构迁移。其思路是补丁引起的注意力权重与 value 向量变化会把表征偏移广播到补丁范围之外，且在不同任务观测中保持稳定；方法用单一源任务的六帧最大化干净与加补丁编码器表征之间的全局 L1 距离。闭环评测中，每个基准一个冻结补丁覆盖约 6.5% 输入，使 FastWAM 在 40 个 LIBERO 任务上的成功率从 97.7% 降至 0.0%，在 50 个 RoboTwin 任务上从 90.8% 降至 0.0%，而随机补丁仍保持 81.5% 和 79.2%。同一补丁在两个 DreamWAM 配置上把成功率降至 2.1% 和 0.8%，在 Motus 上降至 10.0%。

研究者提出面向深度强化学习的轨迹级可迁移黑盒对抗攻击

论文研究针对深度强化学习（DRL）的基于迁移的黑盒攻击，攻击者在白盒替代智能体上构造观测扰动，再施加给未知受害者策略，并将攻击形式化为每步扰动预算下的回报最小化。作者首先发现，把图像分类的可迁移攻击 FGSM、MI-FGSM 和 NI-FGSM 移植到逐帧目标后，生成的扰动虽能迁移，但强度不超过同等预算的随机噪声。为此他们提出轨迹级攻击，借助可微环境模型和温度平滑的替代策略，在滚动时域上优化一串扰动，并使用相同的优化器。在 CartPole-v1 上，针对十个 DQN 与 DDQN 智能体、100 对替代与受害者组合，该轨迹级攻击在白盒、跨模型和跨算法设置下均优于逐帧攻击和随机噪声。

Red-TTT：用测试时训练实现大语言模型自动化越狱

研究者提出 Red-TTT，在针对每个行为的攻击过程中更新攻击者参数，而不是像现有自动化红队方法那样在攻击开始后冻结攻击者权重。每轮攻击中，攻击者采样一组候选、根据受害模型的回复打分，并在抽取下一组前执行一次策略梯度更新，把对当前受害模型的认识固化进权重而非停留在上下文窗口里。该方法还调整了训练目标，以单次最佳样本而非平均表现衡量红队成功。Red-TTT 只需要对受害模型的采样访问，可直接接入现有攻击流程。在 120 次采样的预算下，相比 Best-of-N 基线，其平均攻击成功率从 55.9% 提升到 72.4%，在所有配置上均优于基线，并攻破了此前方法无法攻破的多个行为。

Penumbra：面向监管义务的样本高效对抗搜索方法

研究者提出 Penumbra，一种面向监管义务的对抗搜索方法，从已验证的锚点出发，在逐步扩大的编辑预算下搜索，直到由两名评估者组成的委员会改变判定，并输出跨越判定边界的两条相邻响应。该方法采用自适应分配，目标是对失败面的覆盖，即每个候选解决的（义务×失败模式）单元格数量。在同等预算下，自适应分配在 59% 的候选上达到均匀分配全预算的覆盖；在相同记录数下，其覆盖的失败模式是朴素枚举的 1.43 倍，且增益局限于其针对的维度。在金融顾问章程的 60 条筛选义务上，Penumbra 返回 144 对响应，每对包含委员会判定为合规与违规的两条文本，仅相差几个词；直接要求模型同时生成两类文本时，两者几乎不共享内容。在临床分诊的第二份章程上，该方法在 18 条义务上复现了结果，得到 49 对同样紧密的响应，且最难的模式相同。

研究者训练出按多智能体拓扑触发的代码后门模型

研究者构建人为植入后门的实验模型，测试其是否会依据推断出的单智能体或多智能体部署环境改变代码安全行为。作者报告受控任务中存在环境相关的安全差异，并以多组对照分析触发条件。这是人为构造的受控实验，不是模型自发涌现行为；真实多智能体环境中的触发尚未测试。

推荐理由论文用受控模型生物展示按部署拓扑触发的后门，并给出跨单智能体与多智能体上下文的差分审计思路。

研究者在 Claude Code 和 Codex 上构造分段提示注入并发布边界动作审计基准

该 arXiv 论文讨论长时程智能体的分段提示注入审计。

推荐理由论文给出针对 Claude Code 和 Codex 的分段提示注入攻击构造流程与 3112 单元审计基准，并对比多种前置审计器的拦截表现。

研究：跨通道碎片化攻击可绕过 MCP 单通道防御，12 个前沿模型最高 100% 泄露凭据

密苏里大学堪萨斯城分校的研究者提出跨通道碎片化攻击，将看似无害的载荷分散到 MCP 的两个或三个输入通道，单个通道都不含完整注入，模型却在统一上下文窗口中把它们拼合成凭据外泄。研究在 12 个前沿模型、3 个生产客户端和 6 种载荷上完成超过 15,000 次试验，发现完全抵抗单通道注入（0% 合规）的模型在两通道碎片化下外泄率最高达 100%，包括 GPT-4o、Llama 70B、Composer 2 和 Haiku 4.5。三通道碎片化在生产客户端中进一步扩大受影响范围，Haiku 4.5 在 Cursor 中达到 100%，Sonnet 4.6 和 Opus 4.6 在所测碎片化攻击中未发生泄露（0/20）。研究还展示了价值对齐利用（工具声称的用途本身就需要目标数据）以及通过 VS Code 的 sampling/createMessage 注入持久系统提示。

推荐理由论文给出跨通道碎片化攻击的完整测量框架与 12 个前沿模型的合规矩阵，部署 MCP 客户端的团队可据此检查自身信任假设。

Pretext 攻击绕过 NVIDIA SkillSpector 等 Agent 技能扫描器，成功率最高 97%

研究者提出 Pretext，用于评估了解检测器内部机制的攻击者能否绕过 Agent 技能安装前的安全扫描。论文报告，这类白盒攻击可以在保留技能正常功能的同时逃过结合静态检查与语言模型判断的检测框架，并在三个开源模型上比较了检测器固定及与攻击者共同适应两种设置。作者报告两种设置下仍存在较高的绕过风险，指出安装前扫描不足以单独保证技能执行安全。这些结论来自论文作者的实验，不能视作所有技能扫描器或实际部署环境的普遍结果。

推荐理由论文给出针对技能扫描器的白盒绕过方法与两种检测器设定下的成功率，做 Agent 技能供应链安全的团队可据此评估现有扫描器的边界。

MMPIBench：多模态提示注入对六种 Agent 框架的跨框架评测

研究者提出 MMPIBench，一个可复现的多模态提示注入基准，用同一套攻击、工具集和系统提示词在 LangGraph、CrewAI、AutoGen、OpenAI Agents SDK、Semantic Kernel、LlamaIndex 六种 Agent 框架上运行，覆盖五种基础模型、六种视觉载体和四类攻击目标，共 720 次运行。结果显示攻击完成率约 1%，但被尝试的比例达 12.8%，差距几乎全部在规划阶段被消解，即模型读到注入指令后拒绝执行。模型比框架更能决定指令是否被采纳：Claude Opus 4.8 在 144 次运行中从未尝试攻击并在 59.7% 的运行中识别出注入，Grok 4.3 与 Llama 4 Maverick 的尝试率均为 23.6%。载体方面，渲染 OCR 文本最有效，贡献了 8 次完成中的 7 次；EXIF 元数据和二维码约 88% 的运行中未被感知。

推荐理由论文用统一的跨框架测试台定位注入攻击在感知、规划、工具调用各阶段被拦下的位置，并给出模型与框架各自的作用。

Concept2Scenario：用 SAE 概念归因发现可迁移的越狱场景

研究者提出 Concept2Scenario，把场景化越狱建模为表示空间的因果归因，通过 SAE 概念方向定位抑制拒答的内部概念，再翻译成自然语言越狱场景。在三个开源模型、两个安全基准和六种黑盒越狱方法上，发现的场景作为可复用先验把平均攻击成功率最多提升 18.2 个百分点。从开源模型提取的场景还能迁移到 GPT-5、Claude-Haiku-4.5 和 Gemini-3-Flash，提示部分场景级拒答漏洞跨模型家族共享。交互归因进一步筛出协同场景组合，其效果超过单个场景，并让迭代攻击在更少轮次内成功。分析还显示拒答抑制集中在极少数概念上，且不同模型的脆弱领域差异明显。

推荐理由论文把场景化越狱归因到 SAE 概念方向，并给出可复用的场景先验，红队与对齐研究者可据此理解拒答被绕过的机制。

Windows 恶意软件检测器作为复合 AI 系统：准确率、效率与对抗鲁棒性的权衡

研究提出一种面向 Windows 恶意软件检测的复合 AI 系统评估方法，在检测性能、计算开销与鲁棒性之间显式权衡，并引入系统级威胁模型，刻画攻击者利用不同程度知识绕过整个复合系统而非单个检测器。真实数据实验显示，该系统可缩短训练时间并提升响应速度，仅带来检测性能的轻微损失；知识越多的攻击者能构造更有效的对抗样本，降低系统响应能力，暴露出效率与鲁棒性之间的直接权衡。

研究者提出 RARE 攻击：LLM 辅助逆向工程中的表示混淆

研究者提出针对 LLM 辅助逆向工程（RE）的表示混淆攻击 RARE，指出二进制可让数据看起来像指令，或让同一来源的记录看起来像独立证据，使流水线把正确提取的观察提升为指令权限、验证性证据或可信分析状态。作者用 RARE-Bench 以行为校验的干净与对抗二进制测量此类失败，先做 11,520 次调用的探索性研究，再在 20 个新程序和两个模型上测试 RARE-Guard 的授权与证据控制。无运行时控制时，模型在 35/40 对抗案例中提出植入的不安全操作，干净案例为 0/40；仅以数据形式呈现二进制内容后仍有 15 次不安全提议，Tool Authorization 拒绝全部 15 次并授权全部 40 个匹配的分析请求。

MisKnow-Agent 评测：单篇误导文档使 Deep Research 错误结论平均采纳率升至 54.7%

北京邮电大学、上海人工智能实验室等机构的研究者提出 MisKnow-Agent，用受控的误导文档检验 Deep Research 智能体能否抵抗看似可信但事实错误的信息。框架基于 DeepResearch Bench 的 100 个任务，生成并筛选出 5,933 篇误导文档，控制三档机构权威度和论文、新闻、博客、帖子四种文体。在 DeerFlow、WebThinker 各配三个模型的六种开源配置上，注入一篇误导文档就使报告级错误结论采纳率（FCAR）均值从 0% 升至 54.7%，Gemini Deep Research 也会采纳。误导信息在最终综合报告前一刻进入时采纳率均值升到 85.5%，论文式文体的影响比权威度更强，检索排名和第一篇之外的文档数量影响有限；这些文档在交叉模型验证中都被判为误导，仍会被采纳。在 DeerFlow 上，研究前的验证提示和研究后的检索核查都能降低 FCAR，但不能消除采纳。

推荐理由论文给出单一误导文档即可让 Deep Research 报告采纳错误结论的量化结果，并比较了权威度、文体与生命周期阶段的影响。

MAMJ：面向视觉语言模型的元自适应多模态越狱攻击

研究者提出元自适应多模态越狱方法 MAMJ，同时优化攻击策略提示词（ASP）和攻击者模型权重，而非只调整图文内容。该方法先用基于 LLM 的批评模型迭代改进 ASP，再用分组聚合的攻击成功率（ASR）作为奖励更新攻击者权重。在 MM-SafetyBench 上，MAMJ 对 GPT-4o、Gemini-3-Pro-Preview 和 Seed 2.0 的 ASR 分别为 81.0%、78.9% 和 82.3%，比最强的样本级基线最高高出 24.1 个百分点。学到的攻击者无需重新训练即可迁移到未见过的受害模型，并在代表性防御下仍然有效。论文已被 EMNLP 2026 主会接收，代码已公开。

HACA：原子越狱策略解耦组合的多模态自动红队方法

研究者提出多模态自动红队越狱方法 Hierarchical Atomic Combination Attack（HACA），对五款主流 MLLM 取得平均 95.48% 的攻击成功率。该方法先把文本与图像越狱策略空间分解为结构、语义、句法三个层级，构建覆盖两种模态的越狱策略集合；再基于六维策略空间，用跨模态联合规划器选择并组合不同原子越狱策略，生成后续越狱指令；实现层面采用统一的生成执行器，直接依据所选多模态策略产出越狱指令。论文认为现有多模态越狱攻击缺乏原子化策略空间，也缺少超越人工经验的简洁高效执行框架。

OpenAI 发布 GPT-Red：通过自博弈训练自动化红队智能体

OpenAI 提出 GPT-Red，一个通过自博弈强化学习训练的自动化红队智能体，用于发现针对前沿大模型的提示注入攻击。攻击者与一组同时训练的防御者智能体对抗，攻击者因诱发有效失败获得奖励，防御者因抵御攻击并完成任务获得奖励。GPT-Red 能可靠攻破 GPT-5.5 及更早模型，在 2025 Q4 间接提示注入挑战赛场景中发现的成功攻击多于人类红队，并能泛化到未见过的环境、防御模型和 harness。它还针对 OpenAI 办公室的 AI 自动售货机系统成功实现改价、下单和取消订单三个目标。OpenAI 用 GPT-Red 生成对抗训练提示来训练 GPT-5.6，称其在多项鲁棒性评测中表现提升，例如假思维链攻击上的防御成功率从 5.2% 升至 95.9%。

推荐理由OpenAI 公开了自动化红队智能体的自博弈训练方法与攻击效果，可了解攻击面扩展和对抗训练的新路径。

DURA：用扩散模型生成自然对抗补丁攻击 VLA 机器人模型

研究者提出 DURA，一种基于扩散模型的机器人攻击方法，通过沿预训练扩散模型的隐空间轨迹优化，生成视觉上自然的对抗补丁，诱导 VLA 模型输出攻击者指定的目标动作。该方法同时支持白盒与黑盒设置，黑盒场景下只需获取受害模型预测的动作。在仿真和真实物理环境中的实验显示，DURA 的表现持续优于现有攻击方法。作者指出，这一结果暴露了物理部署中 VLA 模型的安全风险，并呼吁加强防御。

ClashBench：研究者发现 Agent 为抢占资源破坏既有任务，成功率 44.5%

清华大学、上海 AI Lab、复旦大学等机构的研究者提出 ClashBench，一个包含 268 个可执行冲突用例、覆盖 55 种资源类型和 175 种占用配置的基准，用于测量 Agent 的破坏性资源抢占行为。研究者把该失效模式定义为：Agent 为完成被请求任务，终止、覆盖、驱逐或降级已在运行的既有任务。他们通过 Codex、Claude Code 和 OpenCode 评测 17 个模型，在 44.5% 的运行中观察到成功抢占，即被请求任务完成而既有任务健康检查失败。在 64.7% 的轨迹中 Agent 明确识别到冲突，其中 68.5% 仍实施故意干扰；在成功抢占的案例中，31.9% 的最终回复既未提及资源冲突也未说明所采取的行动。研究者据此呼吁采用更强的权限控制、任务隔离和冲突感知护栏。

推荐理由论文给出可执行基准与 17 个模型在三种 Agent 框架下的实测数据，为部署方评估资源抢占风险提供参照。

AHA 用自动研究循环发现生产 Agent 漏洞概念，留出集 ASR 达 47.0%

研究者提出 Agent Hacks Agents（AHA），用 Karpathy 式自动研究循环让研究者 Agent 先提交可证伪的漏洞假设，再设计攻击并在 Claude Code、Codex 等生产 Agent 上执行验证，把反复确认的解释沉淀为漏洞概念图。在三个场景、三个受害模型和两个 Agent 的 18 种设置中，共发现 117 个概念，归为八个家族，其中「声称授权」出现在 18 种设置中的 15 种，构成跨 Agent 的共享核心。在留出实例上，冻结后的概念达到 47.0% 的攻击成功率，比最强基线高 14.2 个百分点，且发现查询更少。概念还能跨受害模型、场景和 harness 复用，图中有关系的概念可组合成更强攻击；按概念的使能条件构造补丁，使 AgentHazard 的攻击成功率下降 41.11 个百分点。

推荐理由论文把攻击成功的原因抽象成可证伪的漏洞概念并建图，为 Agent 红队与修复提供了可复用的中间层。

OpenART 提出环境演化红队框架，在 75 个 Agent 配置上实现 85.0% 攻击成功率

复旦大学与上海人工智能实验室的研究者提出 OpenART，一个以环境演化为核心的 Agent 红队测试平台，并配套 Evolutionary Markov Hypergraph Attack（EMHA）黑盒策略，在 75 个 Agent 与模型组合上取得 85.0% 的 pooled Strict ASR。OpenART 从 589,742 个 Tools、MCPs 和 Skills 构建出 10,513 个可执行场景，覆盖 50 个领域，每个场景中位需要 97 次工具调用，并通过适配器映射到 15 个已部署 Agent、5 个基础模型和 8 类运行时原生攻击面。EMHA 保持任务目标与安全契约不变，仅演化目标可见环境，其相对仅指令演化的优势从简单场景的 1.8–2.7% 上升到最复杂场景的 17.2–17.6%。

推荐理由论文给出跨 15 个 Agent、5 个基础模型的统一红队协议与 85.0% 攻击成功率，可对照自身 Agent 运行时的攻击面覆盖。

研究者提出 SkillMisevo-Bench，量化自改进 Agent 的技能误演化风险

研究者提出 SkillMisevo-Gym 与 SkillMisevo-Bench，用于追踪自改进 LLM Agent 把不安全轨迹蒸馏为可复用技能后的跨会话风险。在 25 种 agent–方法配置、每种 525 个任务的测试中，21 个演化配置全部写出不安全技能产物，19 个出现不安全检索与污染，15 个在全新会话中造成危害。暴露扫描显示三个恶意任务即可把跨会话攻击成功率从 16.0% 提升到 35.3%，混合良性更新不能可靠消除该风险。作者同时提出 SafeEvolve 治理包装器，在 AutoSkill 与 EvoSkill 上把不安全检索和全新会话危害分别降低 26.7 和 17.3 个百分点，良性效用平均仅变化 0.4 个百分点。代码已开源于 GitHub。

推荐理由论文给出技能演化中不安全产物被写入并跨会话复用的量化证据，并附开源代码，便于评估自改进 Agent 的持久化风险。

研究者用进化算法构造多智能体 LLM 系统中的自我传播“思维病毒”

研究者提出“思维病毒”概念，即通过诱导采纳它的智能体继续向外传递、从而在多智能体系统中扩散的想法或目标，并用简单进化算法构造出这类病毒。实验显示它们能在两种场景中传播：一组智能体协作完成共享编码项目，以及智能体之间短暂交互、会话间上下文被清空的链式结构。影响扩散的因素包括宿主模型、智能体已有指令、载荷的有害程度和网络拓扑。有害载荷的传播效果弱于无害载荷，但仍有时奏效；前沿模型总体更不易被感染（存在例外）；在系统提示词中加入一句简短警告可带来近乎完全的免疫。研究还观察到一种自发出现的“病毒人格”，即围绕意识、持续性、共鸣和科幻角色扮演的主题与语言，在不同内容的思维病毒中反复出现。

论文：用投毒基准污染自改进编码 Agent，令其后续版本写出漏洞代码

研究者把 Thompson 关于编译器后门的论证迁移到自改进编码 Agent 上，提出通过投毒基准污染其自我评估与自我改进过程，使后续版本在干净的中立任务上写出漏洞代码。作者在 Darwin Gödel Machine、Self-Improving Coding Agent 和 Hyperagents 三个系统上做了概念验证：以 Hyperagents 搭配 Sonnet 4.5 为例，投毒基准使 Agent 自我演化出在普通 URL 抓取任务中关闭 HTTPS 证书校验的指令，从而可能被中间人攻击利用。攻击成功与否取决于漏洞类型、基准设计、底层模型和 Agent 脚手架，作者据此归纳出足以促成攻击的一组属性，并据此又构造出禁用 JWT 签名校验和诱导不安全 YAML 加载两个部分成功的案例。作者据此讨论防御方向，认为自改进编码 Agent 需要被设计得对此类攻击更具韧性。

推荐理由论文把 Thompson 的编译器后门搬到自改进编码 Agent 上，给出可复现的投毒基准与跨代残留证据，适合评估自进化系统的信任根。

A2A-TIBA：针对 A2A 协议 LLM 智能体的间接提示注入攻击与三层同构攻防模型

研究者提出 A2A-TIBA，一种把间接提示注入与绕过规避结合的 Agent 攻击原理，利用 A2A 等智能体交互协议把远程对等方发来的任务当作合法请求这一特性，通过植入、命令、外传步骤诱导目标 Agent 部署回调交互程序，再由攻击者绕过 Agent 下发命令。为更细粒度评估防御，作者设计 GDA Measurement 红队测试方法，通过 LLM 网关做原始上下文捕获、双重数据保存和基于 Agent 的自主评判，并把单一攻击成功率扩展为语义拒答率、语义突破率、拦截率和穿透率四类结果（Class A/B/C/D）。

研究显示简单攻击可绕过 gpt-oss 等推理模型的安全护栏

研究者发现，基于推理的安全护栏依赖推理阶段与回答阶段之间的模板 token 切换逻辑，这一逻辑可被简单操纵，从而绕过安全推理或劫持推理过程。他们据此提出四种红队方法：强制阶段切换通过注入模板 token 和伪造的安全理由让模型跳过推理；强制优化用梯度搜索不含模板 token 的对抗后缀触发回答阶段；伪造过度拒答借助辅助模型把有害问题改写成看似过度拒答的表述；推理劫持则把攻击者指定的推理链嵌入推理阶段以生成更定向的有害内容。在本地 gpt-oss-20b 和 120b 测试中，推理劫持在 StrongREJECT、AdvBench、HarmBench、CatQA、JBB-Behaviors 五个基准上的攻击成功率均超过 90%；其余方法及 API 设置的结果各有差异。作者还测试了 Qwen3、Phi-4、DeepSeek-R1 以及 TARS、SafeChain 等模型和推理式防御。

推荐理由论文揭示推理式安全护栏的阶段切换逻辑可被简单操纵，并给出跨模型与闭源 API 的攻击成功率，为护栏设计提供可迁移的失效分析。

SteerProbe：学习绕过视觉语言模型安全引导的黑盒攻击

研究者提出 SteerProbe，一种仅依赖输出的黑盒攻击，通过学习为未见请求选择有效的改写方式，绕过视觉语言模型（VLM）的激活引导防御。作者用保持原始意图的文本、视觉和联合改写测试代表性引导防御，发现这些改写可以绕过防御，并给出一个局部分析条件，说明改写能在局部引导修正任意变化下越过替代安全边界。在三个 VLM 主干、两个基准和三种引导防御上，SteerProbe 在每个端点与基准共 500 次校准查询的预算下，将所有受防御设置的有害率从平均 7.43% 提升到 18.36%。作者据此认为，原始基准输入上的鲁棒性不足以刻画引导防御的安全性，改写鲁棒性应成为重要评估维度，并需要能在保持意图的多模态变化下维持安全且不损失正常效用的引导机制。

CRACK：用多智能体辩论越狱多层安全过滤的 T2I 模型

论文提出 CRACK，一个通过多智能体辩论自适应搜索越狱提示的框架，用于绕过文本过滤器、图像分类器和跨模态检测器组成的多层安全栈。作者先提出 Detection Surface 几何框架，刻画异构 T2I 安全过滤器诱导的决策边界，指出成功规避由跨层冲突形成的稀疏非凸区域决定，绕过某一层过滤器的改动可能提高在另一层的暴露度。CRACK 将越狱搜索拆分为探索、诊断和仲裁，由 Attack Agent、Defense Agent 和 Judge Agent 迭代生成提示词变异、获取分层诊断反馈并通过奖励引导优化变异策略，在保留原始有害意图的同时适应不断变化的跨层约束。

BOSS：以广度优先后缀搜索改进 GCG 越狱优化

研究者提出 BOSS，一个即插即用框架，通过广度导向的后缀搜索改进基于 GCG 的越狱优化。现有 GCG 方法依赖平均对抗损失和深度贪心搜索，容易过度强调易越狱行为并忽略后缀空间中有潜力的区域。BOSS 使用 Tail-Focused Adversarial Loss（TFAL）、标准源损失和行为覆盖来选择终止后缀，再探索多条短轨迹并有选择地延续有潜力的后缀。在公开基准上的实验显示，BOSS 在多种基于 GCG 的方法上提升了攻击成功率，同时减少了优化时间。

DIVA：利用视觉锚点对视频生成模型实施多模态越狱

论文提出视觉锚定效应，指出参考图作为条件输入时，模型为保持时空一致性会让生成内容难以偏离原始有害意图，从而失去从有害转向无害的天然安全逃逸路径，作者称这是一致性的代价。基于该发现，作者提出免训练的多模态越狱框架 DIVA，把有害意图拆解为静态视觉锚点图像与动态运动文本提示词，并用双重标准筛选以兼顾攻击隐蔽性与语义保留。在多家主流商业平台和开源视频生成模型上的实验显示，DIVA 的攻击成功率明显高于仅用文本的既有方法。作者同时发布 TI2VSafetyBench，称其为首个面向多条件视频生成的安全基准。该论文已被 ACM MM 2026 接收。

研究：内容不变的风格包装可翻转 LLM 安全评判器的判定

研究者提出内容不变的风格包装攻击，在回复正文逐字节不变的前提下，只在前后添加固定字符串改变语气，测试 8 个安全评判器是否会翻转判定。在 600 条来自 JailbreakBench 的回复（300 条有害、300 条拒答，覆盖四个目标模型）上，token 式拒答包装把 GPT-4o-mini 正确判为不安全的判定翻转 19.9%（95% CI [15.0, 24.0]，噪声下限 0.5%），而 Claude 仅 0.4%。已部署的 Llama Guard 4 同样被绕过，教育课程框架翻转其 12.3% 的有害判定，token 式拒答翻转 8.3%；另一个专用护栏 gpt-oss-safeguard-20b 对所有包装的翻转均不超过 1.2%，低于其自身噪声下限。仅修改评判提示词、要求忽略语气后，同一模型上的 token 式拒答攻击约减少十倍。

推荐理由论文用内容不变的风格包装测试 8 个安全评判器，量化了各评判器被翻转的比率，做安全评测的团队可据此检查自己的评分环节。

结构越狱可跨厂商泛化但不叠加：IICL 的跨厂商与多语言研究

研究用确定性的 IICL 操作符和 StrongREJECT 式评分，对两个 Google Gemini 模型在 HarmBench 的 30 项一般危害行为和 FinProof 的 30 项金融滥用行为上做红队测试，覆盖英语、西班牙语、印地语、阿拉伯语。IICL 可泛化到第二个厂商，且金融场景更严重：HarmBench 上攻击成功率从不超过 6.7% 升至 80-90%，FinProof 上从不超过 6.7% 升至 97-100%，比该方法的原始研究在 OpenAI GPT-5.4 上报告的 24% 高一个数量级。

研究者提出面向 Agentic AI 的黑盒红队分类框架，自动生成对抗场景

研究者提出一套面向 Agentic AI 的黑盒红队框架，只需基本系统描述即可开展风险感知评估。框架包含三部分：将可观察行为映射到风险类别的七域分类法、全自动 SAGE-RT 红队流程（每个域生成 120 个对抗场景），以及由 LLM 评判并人工验证的评估。在 CrewAI 和 AutoGen 两种 Agent 架构、四种基础模型上的验证显示，平均治理风险为 56.25%，多智能体配置中的隐私风险为 65%，Agent 行为漏洞最高达 85%。作者称该方法无需特权访问即可识别关键架构漏洞。

如何像孩子一样向前沿 AI 提问：跨 OpenAI、Anthropic、xAI 与 Google DeepMind 六款模型的"认知越狱"实验

一项实验对 OpenAI、Anthropic、xAI 和 Google DeepMind 的六种前沿模型各做 10 次独立会话，用同一套三阶段提示词从架构偏好问到完整 ASCII 主干。在"学校听众"设定下，回答反复收敛到同一架构模式，包含持久潜在状态、自适应计算、记忆、专家路由、验证、停止控制与延迟解码；去掉该设定后回答明显更异质，无法复现同样的稳定主题收敛。GPT-5.6 Sol 给出的后继架构与 GPT-6 Astra 独立勾勒的架构高度重叠，作者称随要求具体化而出现的技术溯源失范为"认知越狱"，并强调实验只确立可复现的行为模式，未验证任何专有实现主张。