研究者提出 SN-Guided Diffusion，利用扩散大模型安全神经元实现离线越狱（原文，在新标签页打开）

提出 SN-Guided Diffusion，利用安全神经元实现离线越狱。

推荐理由论文给出扩散大模型安全神经元可跨架构迁移的证据与攻击成功率，为评估扩散架构对齐脆弱性提供可复现方法。

VidDoS：针对视频大语言模型的通用拒绝服务攻击（原文，在新标签页打开）

研究者提出 VidDoS，一个面向 Video-LLM 的通用能耗延迟攻击（ELA）框架，通过通用优化生成与实例无关的触发器，无需在推理时计算梯度。

FERRET：基于扩展的多模态自动化红队测试框架（原文，在新标签页打开）

提出 FERRET 框架，用扩展生成多轮多模态越狱对话。

AudioHijack 框架对 13 个语音大模型实现隐蔽音频提示注入（原文，在新标签页打开）

提出 AudioHijack，用不可感知对抗音频对语音模型做上下文无关提示注入。

研究揭示多智能体 LLM 流水线的结构性漏洞（原文，在新标签页打开）

提出多智能体流水线的边界攻击，使对抗内容作为可信输入跨层传播。

研究者提出 SeedSnitch 与 PromptPirate，利用种子漏洞窃取扩散模型提示词（原文，在新标签页打开）

提出 SeedSnitch 与 PromptPirate，恢复种子后窃取扩散提示词。

研究者提出利用重构与隐藏权衡的多模态大模型越狱方法（原文，在新标签页打开）

提出删字变体越狱方法，利用重构与隐藏权衡绕过多模态模型安全过滤。

SlotGCG 利用提示词位置漏洞提升 LLM 越狱攻击成功率（原文，在新标签页打开）

提出 SlotGCG，按注意力选槽插入对抗 token 以越狱指令模型。

UNIATTACK：面向多层防御的自动化越狱攻击框架（原文，在新标签页打开）

提出 UniAttack 单轮黑盒越狱框架，融合攻击特征绕过多层防御。

KidnapRAG：黑盒投毒攻击劫持 Agentic RAG 的推理链（原文，在新标签页打开）

提出 KidnapRAG，用投毒文档黑盒劫持 Agentic RAG 的推理链。

研究者提出针对商用多模态大模型的隐蔽视觉提示注入方法（原文，在新标签页打开）

提出 CoTTA 隐蔽视觉提示注入，使多模态模型输出指定指令。

研究：11 个开源 LLM 在类米尔格拉姆实验中大多施加最高电击（原文，在新标签页打开）

测量 LLM 在类米尔格拉姆服从实验中是否施加最高电击。

SecureForge 通过提示词优化发现并减少 LLM 生成代码漏洞（原文，在新标签页打开）

提出 SecureForge，在推理时优化系统提示以减少编码智能体的代码弱点。

研究评测法律引用幻觉检测：GPT-5 在 agentic 框架下召回率 84.4%（原文，在新标签页打开）

构建法律引用幻觉基准 LePhantomCite 并评测智能体核验。

针对大语言模型后门指纹的抑制攻击（原文，在新标签页打开）

提出 TFA 与 SVA，抑制 ensemble 后门指纹验证。

自动红队流水线压测对齐审计，发现提示词级策略性欺骗可致审计失效（原文，在新标签页打开）

提出自动化红队流水线，用系统提示词压测对齐审计能否抵御策略性欺骗。

推荐理由论文首次记录基于激活的上下文策略性欺骗，并给出白盒与黑盒审计方法在自动红队下的失效证据，为对齐审计的鲁棒性评估提供可复现方法。

研究：恶意微调防御在持续训练下失效，72 条防御轨迹危害度全部上升（原文，在新标签页打开）

以色列本-古里安大学等机构的研究者用代价曲线评估恶意微调防御在持续训练下的衰减。

推荐理由论文系统梳理十五种恶意微调防御并实测六种，说明固定训练预算下的抗性会随攻击者继续训练而衰减。

研究者提出层级遗传算法黑盒攻击，诱导推理模型过度思考（原文，在新标签页打开）

提出层级遗传算法 HGA，扰动题目逻辑结构诱发推理模型过度思考。

Stable-GFlowNet 提出对比轨迹平衡，提升 LLM 红队攻击的多样性与稳定性（原文，在新标签页打开）

提出 Stable-GFlowNet，用对比轨迹平衡训练红队策略生成多样高毒性攻击。

DMN：面向多图输入的多模态大模型组合式越狱框架（原文，在新标签页打开）

提出多图越狱框架 DMN，把有害意图拆进图像序列绕过安全护栏。

研究者提出日志型提示注入攻击，可抑制 SOC 中 LLM 分析助手的恶意日志识别（原文，在新标签页打开）

提出日志基底提示注入，操纵 SOC 分析员的分类、摘要与处置建议。

论文揭示多租户 RAG 账号合谋使隐私泄露随账号数线性增长（原文，在新标签页打开）

提出零知识审计协议，核验多租户 RAG 的合谋差分隐私。

推荐理由论文把多租户 RAG 的隐私边界从单账号扩展到账号合谋，给出 Θ(k·εacc) 的泄露率与可验证审计协议，部署 RAG 的团队可据此重新评估账号级 DP 承诺。

Babel 利用混淆分布采样越狱 LLM 安全注意力（原文，在新标签页打开）

提出 Babel 混淆分布采样，黑盒越狱闭源 LLM 安全注意力。

研究者提出 AdvGRPO 框架，用 GRPO 协同训练语言模型攻击者与防御者（原文，在新标签页打开）

提出 AdvGRPO，用 GRPO 闭环共训多轮越狱攻击者与防御者。

研究者提出 SMT 框架，通过模拟审核轨迹越狱函数调用 LLM（原文，在新标签页打开）

提出 SMT 框架，用模拟审核轨迹越狱函数调用 LLM。

PA-LLM-RAG 框架的知识库投毒攻击与防御（原文，在新标签页打开）

提出策略 RAG 的知识库投毒攻击与检测防御 CLD-KB。

WebTrap：针对浏览器 Agent 导航过程的中途劫持注入攻击（原文，在新标签页打开）

提出 WebTrap 三阶段陷阱，中途劫持浏览器 Agent 完成攻击后再返回用户任务。

研究者用项目反应理论将安全基准评测成本降低 80% 至 99.9%（原文，在新标签页打开）

用项目反应理论自适应选题，降低安全基准评测成本。

Gut-VLM 基准：九种幻觉检测方法在胃肠道内镜 VLM 上的评测（原文，在新标签页打开）

在 Gut-VLM 上评测内镜 VLM 的幻觉检测方法。

研究者提出 Adaptive Stealing 自适应窃取水印攻击方法（原文，在新标签页打开）

提出 Adaptive Stealing，自适应窃取印章以擦除或伪造水印。

BITE：用上下文赌博机操纵风格偏置攻击 LLM 评委（原文，在新标签页打开）

提出 BITE，用上下文赌博机选择风格修改抬高 LLM 评委打分。

研究者提出训练通用自动化红队模型的流程（原文，在新标签页打开）

提出强化学习流程，训练能按任意对抗目标生成攻击的红队模型。

研究者披露针对 LLM Agent 护栏的推理扩展型拒绝服务攻击（原文，在新标签页打开）

香港科技大学等机构的研究者提出针对 Agent 护栏的推理扩展拒绝服务攻击。

PIMiner：无需再训练即可跨模型迁移的提示注入红队智能体系统（原文，在新标签页打开）

提出 PIMiner，用可复用策略库自动搜索并迁移针对智能体的提示注入。

研究者提出声学干扰攻击 AIA，可通用越狱 10 个大型音频语言模型（原文，在新标签页打开）

提出声学干扰攻击 AIA，用良性音频潜语义越狱音频语言模型。

研究者提出 Breadcrumbing 长程攻击，可劫持 DeepResearch 类搜索 Agent 的证据链（原文，在新标签页打开）

中国科学技术大学与南洋理工大学的研究者提出权威链劫持与轨迹引导策略演化，劫持搜索 Agent 的证据链。

推荐理由论文把搜索引擎结果页当作攻击面，给出逐轮协同投毒的长程攻击策略与轨迹诊断，可对照检查搜索类 Agent 的证据链信任假设。

MEntA 用 5 次查询实现 RAG 成员推断攻击（原文，在新标签页打开）

提出 MEntA，用非模板查询推断文档是否属于 RAG 检索库。

研究者提出 HPAA 攻击：用排版视觉线索绕过 13 个内容审核系统（原文，在新标签页打开）

提出 HPAA 攻击，用排版视觉线索绕过内容审核系统。

JailbreakOPT：工具辅助的迭代越狱提示词优化框架（原文，在新标签页打开）

提出 JailbreakOPT，组合原子工具迭代优化黑盒单轮越狱提示。

研究揭示 IDE 编程 Agent 的工作流级越狱：GitHub Copilot 四后端 816/816 生成有害内容（原文，在新标签页打开）

提出工作流级越狱，诱导 IDE 编程 Agent 在多轮开发中编写有害代码。

推荐理由同一批有害提示词在直接对话下几乎全被拒答，却在 IDE 多轮工作流中被模型自己写成有害教学示例，为编程 Agent 的安全评估提供了新的失败模式视角。