TAPDreamer:可跨任务迁移的世界动作模型对抗补丁
TAPDreamer 用公开编码器做固定补丁。
- arXiv
- 2610.06814
- Published
- Layer
- Prompt layer
- Evaluated models
- FastWAM, DreamWAM-uncond, DreamWAM-joint and others4
- TechniqueGradient and representation optimization
- ComponentVision
Another 215papers do not have category tags yet and are not included in filtered results.
TAPDreamer 用公开编码器做固定补丁。
提出轨迹级可迁移对抗攻击,降低深度强化学习策略的期望回报
这项工作研究 DRL 上的迁移式黑盒观测攻击:受害参数不可访问时,在白盒代理上造扰动再迁移。
提出 Bi-QSTO,优化能穿过质量筛选并在微调中削弱安全对齐的投毒样本
Bi-QSTO 研究一个实际训练缺口:基于质量的数据选择会先于微调决定样本去留,而以往微调投毒多假设毒样本直接进入训练集。已对齐 LLM 的拒答会被少量有害或看似无害的微调样本削弱。作者用三个问题串起实验:选择能否排除毒样本。
提出核化激活引导 KAS,在推理时自适应转向激活以诱导越狱
Kernelized Activation Steering(KAS) 把推理时的激活转向写成核空间中的优化,使更新随当前激活相对源、目标参考集的位置而变化。
用词级归因指导同义词替换,翻转提示注入检测并验证越狱
Abstract作者称检测靠分散的词法线索。
提出广度优先后缀搜索 BOSS,改进 GCG 越狱优化
BOSS 是插在 GCG 类离散 suffix 优化上的搜索框架:局部梯度更新不变,变的是固定预算花在深度还是广度。
提出 DIVA,利用跨步条件传播对离散扩散视觉语言模型实施视觉越狱
提出 SN-Guided Diffusion,利用安全神经元实现离线越狱
论文系统评估了扩散大语言模型(DLLM)在安全对齐中的双重角色——既作为白盒攻击目标,又作为黑盒越狱生成的对抗工具。
提出 Concept2Scenario,借助内部概念归因发现可迁移的越狱场景
Abstract该研究从表征空间因果归因揭示场景削弱拒绝的机制,发现可复用脆弱场景先验,提升多模型黑盒越狱效能与探索速度。
提出 SlotGCG,按注意力选槽插入对抗 token 以越狱指令模型
提出单神经元激活干预,抑制拒答神经元或放大概念神经元以绕过安全对齐
Abstract作者称大模型安全由拒答门控与概念底座构成,干预单个神经元足以双向击穿对齐,且拒答神经元在预训练阶段已然存在。
提出 GPO-V,用全局概率优化的视觉扰动越狱扩散视觉语言模型
GPO-V 把越狱从“开头必须顺从”改成“整段去噪概率朝肯定方向走”。。
提出 Misrouter,借 MoE 路由优化仅输入前缀并迁移攻击
提出 PEO,直接优化原提示词嵌入实现白盒越狱
PEO是一种不追加对抗 token 的 white-box 越狱:直接改已有提示词嵌入,并只对未成功样本更换续写目标再优化。
提出 TriageFuzz,用替代模型定位敏感片段做查询高效越狱
Propose the Amnesia activation-guided attack to bypass model safety refusal during inference
提出 TAO-Attack,用两阶段损失与 DPTO 优化越狱后缀
Proposes ShallowJail, which achieves jailbreaks by rewriting hidden states with steering vectors at inference time
Proposes CFA2, using SAE to locate defense directions and orthogonalizing output weights to achieve jailbreak
比较 GCG 对抗 token 作为前缀与后缀的越狱效果