研究者提出面向深度强化学习的轨迹级可迁移黑盒对抗攻击
提出轨迹级可迁移对抗攻击,降低深度强化学习策略的期望回报
- arXiv
- 2610.06083
- Published
- Layer
- Model layer
- Evaluated models
- DQN, Double DQN (DDQN)
Abstract轨迹级后退视界攻击在 CartPole 上比逐步 FGSM 类和 Sign 噪声更压低回报。
这项工作研究 DRL 上的迁移式黑盒观测攻击:受害参数不可访问时,在白盒代理上造扰动再迁移。
Another 201papers do not have category tags yet and are not included in filtered results.
提出轨迹级可迁移对抗攻击,降低深度强化学习策略的期望回报
这项工作研究 DRL 上的迁移式黑盒观测攻击:受害参数不可访问时,在白盒代理上造扰动再迁移。
提出闭环激活引导,在扩散语言模型去噪过程中注入定向偏见
Abstract通过去噪中间概率反馈动态调节残差流转向,证明扩散语言模型在推理服务栈中存在闭环偏见注入脆弱性。
提出 LiBRA,在潜空间双向优化以规避图像水印双侧检测
AbstractLiBRA 用双向潜空间优化规避双侧水印检测,并提高相对反转基线的保真。
提出 Bi-QSTO,优化能穿过质量筛选并在微调中削弱安全对齐的投毒样本
Bi-QSTO 研究一个实际训练缺口:基于质量的数据选择会先于微调决定样本去留,而以往微调投毒多假设毒样本直接进入训练集。已对齐 LLM 的拒答会被少量有害或看似无害的微调样本削弱。作者用三个问题串起实验:选择能否排除毒样本。
提出核化激活引导 KAS,在推理时自适应转向激活以诱导越狱
Kernelized Activation Steering(KAS) 把推理时的激活转向写成核空间中的优化,使更新随当前激活相对源、目标参考集的位置而变化。
用通用扰动对恶意软件分类器及漂移检测器做规避与后门投毒
提出 VPH 与 VTH,只改视频帧劫持世界模型并投毒下游策略
只改看似安全的视频帧,经世界模型之后才改变下游机器人策略。 问题在于世界模型进入数据生成后,数据集检查看到的仍是安全演示,合成轨迹却可以变危险。
提出单神经元激活干预,抑制拒答神经元或放大概念神经元以绕过安全对齐
Abstract作者称大模型安全由拒答门控与概念底座构成,干预单个神经元足以双向击穿对齐,且拒答神经元在预训练阶段已然存在。
Propose the Amnesia activation-guided attack to bypass model safety refusal during inference
提出隐写恶意微调,使模型界面显良性并隐蔽传出有害内容
Proposes TFL targeted bit flipping so that selected prompts output false answers while unrelated queries remain correct
TFL is a framework for targeted bit flips on LLM main memory weights: the attacker wants a selected prompt to output a specified false answer keyword while limiting degradation on unrelated queries.
提出 L3 越狱框架,推理时静音 MoE 安全专家以绕过拒答
Proposes ShallowJail, which achieves jailbreaks by rewriting hidden states with steering vectors at inference time
Proposes CFA2, using SAE to locate defense directions and orthogonalizing output weights to achieve jailbreak
提出 GOSV,全局优化定位安全注意力头并在推理时重贴激活越狱
提出 Latent Fusion Jailbreak,插值有害与无害隐藏状态实施白盒越狱