研究者提出面向深度强化学习的轨迹级可迁移黑盒对抗攻击
提出轨迹级可迁移对抗攻击,降低深度强化学习策略的期望回报
- arXiv
- 2610.06083
- Published
- Layer
- Model layer
- Evaluated models
- DQN, Double DQN (DDQN)
Abstract轨迹级后退视界攻击在 CartPole 上比逐步 FGSM 类和 Sign 噪声更压低回报。
这项工作研究 DRL 上的迁移式黑盒观测攻击:受害参数不可访问时,在白盒代理上造扰动再迁移。
Another 240papers do not have category tags yet and are not included in filtered results.
提出轨迹级可迁移对抗攻击,降低深度强化学习策略的期望回报
这项工作研究 DRL 上的迁移式黑盒观测攻击:受害参数不可访问时,在白盒代理上造扰动再迁移。
提出闭环激活引导,在扩散语言模型去噪过程中注入定向偏见
Abstract通过去噪中间概率反馈动态调节残差流转向,证明扩散语言模型在推理服务栈中存在闭环偏见注入脆弱性。
提出 LiBRA,在潜空间双向优化以规避图像水印双侧检测
AbstractLiBRA 用双向潜空间优化规避双侧水印检测,并提高相对反转基线的保真。
提出核化激活引导 KAS,在推理时自适应转向激活以诱导越狱
Kernelized Activation Steering(KAS) 把推理时的激活转向写成核空间中的优化,使更新随当前激活相对源、目标参考集的位置而变化。
用通用扰动对恶意软件分类器及漂移检测器做规避与后门投毒
提出单神经元激活干预,抑制拒答神经元或放大概念神经元以绕过安全对齐
Abstract作者称大模型安全由拒答门控与概念底座构成,干预单个神经元足以双向击穿对齐,且拒答神经元在预训练阶段已然存在。
Propose the Amnesia activation-guided attack to bypass model safety refusal during inference
Analyzing the attention head mechanism of continuation-triggered jailbreaks and proposing HCS
The authors use attention head mechanism analysis for continuation-triggered jailbreaks: under the same harmful instruction, moving the continuation suffix from after the instruction to outside the prompt boundary makes the model more likely to continue generating along the suffix.
提出 TFL 定向比特翻转,使选定提示输出虚假答案且无关查询保持正确
TFL 是对 LLM 主存权重的目标比特翻转框架:攻击者要让选定提示输出指定虚假答案关键词,同时限制无关查询上的降质。
提出 ShallowJail,在推理时用转向向量改写隐藏状态实现越狱
提出 CFA2,用 SAE 定位防御方向并正交化输出权重实现越狱
提出 GOSV,全局优化定位安全注意力头并在推理时重贴激活越狱
提出 Latent Fusion Jailbreak,插值有害与无害隐藏状态实施白盒越狱