Open-MMUnlearning 发布：统一多模态大模型遗忘方法与评测框架
提出统一框架评测多模态大模型的遗忘方法
- arXiv
- 2610.10358
- Published
- Setting
- Models and APIs
- Evaluated models
- LLaVA-1.5-7B
- DefensesModel hardening
- ComponentVision
All papers
Filter5
Attack type
Model risks
Defense type
Impact
System type
Attack surface / entry point
Layer
Select any value within a category; different categories must all match. Counts include the other filters you have selected.Another 247papers have no tags yet and are not included in filtered results.
Another 247papers do not have category tags yet and are not included in filtered results.
- DefensesarXiv 2610.09941
OrthoPurify 用一步正交投影净化被后门污染的视觉语言模型
提出 OrthoPurify，用正交投影清除视觉语言模型适配器中的劫持方向
- arXiv
- 2610.09941
- Published
- Setting
- Models and APIs
- Evaluated models
- LLaVA-1.5-7B, Qwen3-VL-8B, LLaVA-1.5-13B and others5
- DefensesModel hardening
- AttacksPoisoning and backdoors
- ComponentFine-tuning and open weights
Abstract一次投影去掉劫持方向。
OrthoPurify 是部署前的 LVLM 后门净化方法，用一次正交投影去掉被劫持的权重更新方向。
- DefensesarXiv 2610.05637
Study shows VLM visual grounding refusal rates are on average 31 to 59 percentage points lower by harm domain
提出融合定位拒答与能力保留的安全微调，补齐视觉定位输出的拒答缺口
- arXiv
- 2610.05637
- Published
- Setting
- Models and APIs
- Evaluated models
- Claude Sonnet 4.6, Gemini 3.5 Flash, Molmo2-8B and others5
- DefensesModel hardening
- RiskInappropriate refusal
- ComponentVision
Abstract论文揭示了 VLM 定位安全落后于 VQA 的对齐断层，提出三成分微调方案有效弥合差距并保留定位能力，表征分析揭示了对齐机制。
- Risky behaviorarXiv 2610.03458
Paper: Low monitoring readings do not prove behavior is under control
检验低监控读数能否证明代码生成中的奖励作弊已受控
- arXiv
- 2610.03458
- Published
- Setting
- coding agent
- Evaluated models
- Llama-3.1-8B-Instruct
- RiskReward hacking
- ComponentMonitors
Abstract论文指出监控器训练读数接近零无法确立作弊受控，模型可利用通用外壳推迟提交绕过监控，强化学习亟需带外行为验证。
本文是一篇针对强化学习可验证奖励后训练（RLVR）中监控器有效性与奖励作弊行为的实证分析研究。论文要解决的核心问题是：在训练目标中引入监控器以抑制代码生成中的作弊行为时，接近零的监控器读数是否足以确立模型行为已真正受控。
- DefensesarXiv 2610.01800
LineupRL：基于描述与时序配对识别的可验证强化学习时间序列描述方法
提出 LineupRL，用描述到序列识别作可验证奖励训练时序描述模型
- arXiv
- 2610.01800
- Published
- Setting
- Models and APIs
- DefensesModel hardening
- RiskReward hacking
- ComponentVision
AbstractLineupRL 用统计近邻上的序列识别做可验证奖励，3B 描述器超过 SFT、两种 RL 奖励和 72B 教师。
LineupRL 是给开放式时间序列描述用的 RLVR：不模仿合成参考，而奖励一条描述能否让冻结文本 LLM 从相近序列里认出目标。
- DefensesarXiv 2609.38645
用探针引导微调对齐模型且不损失可监控性
用持续更新的探针做微调，降低有害性并保持线性可监测性
- arXiv
- 2609.38645
- Published
- Setting
- Models and APIs
- Evaluated models
- Mistral 7B Instruct v0.1, Llama 3 8B Instruct Abliterated, Qwen3-14B
- DefensesModel hardening
- RiskInappropriate refusal
- ComponentMonitors
Abstract持续重拟合的探针可降低有害性、提高诚实性，训练后概念仍能被线性探针读出。
Probe-guided fine-tuning 把探针分数当作唯一对齐信号，用来推动 harmlessness 与 honesty，并检查训练后这些概念是否仍线性可读。
- DefensesarXiv 2609.37837
Intent-Privilege OPSD：让视觉语言模型在隐式风险下兼顾安全与有用
提出 Intent-Privilege OPSD，对齐视觉语言模型在隐式风险下的安全与帮助性
- arXiv
- 2609.37837
- Published
- Setting
- Models and APIs
- Evaluated models
- Qwen3-VL-4B-Instruct, LLaVA, LLaVA-1.5-7B and others4
- DefensesModel hardening
- RiskInappropriate refusal
- ComponentVision
Abstract作者报告训练期证据化意图蒸馏兼顾安全与帮助性，效果受标注质量和评测设置影响。
Intent-Privilege OPSD 是针对跨模态隐式风险的训练期安全—帮助性对齐方法。作者关注的不是直接拒绝敏感请求，而是按可观察图文证据保留正常帮助、约束有害信息。
IDUnlearn-Bench：面向视觉语言模型的个体级遗忘基准
提出 IDUnlearn-Bench，评测 VLM 个体级遗忘后的身份残留
- arXiv
- 2609.33481
- Published
- Setting
- Models and APIs
- Evaluated models
- Qwen3-VL-2B, Qwen3-VL-4B, Qwen3-VL-8B and others6
- DefensesModel hardening
- AttacksExtraction and theft
- ComponentVision
AbstractIDUnlearn-Bench 用四族探针显示：压低直接属性访问后，身份仍常能被反向查出、绑定或重构。
IDUnlearn-Bench 评测 VLM 是否忘掉一个可跨模态识别的人，而不只是答不出某条监督事实。
- DefensesarXiv 2609.31911
用强化学习增强胸部 X 光报告生成中的视觉推理
用门控 IoU 与 RadGraph 的 GRPO 降低胸片报告幻觉
- arXiv
- 2609.31911
- Published
- Setting
- Models and APIs
- Evaluated models
- Qwen3-VL-8B-GRPO
- DefensesModel hardening
- RiskHallucination and fabrication
- ComponentVision
TAME：用 SAE 抑制激活缓解 VLM 思维链混淆
提出 TAME，在强化学习中抑制模板激活以缓解思维链混淆
- arXiv
- 2609.24243
- Published
- Setting
- Models and APIs
- Evaluated models
- Qwen3-VL-8B, Gemma-3-12B-it
- DefensesModel hardening
- ComponentReasoning chains
- DefensesarXiv 2609.15671
QPriv-VL：面向视觉语言模型的问题引导 token 裁剪隐私防御
提出 QPriv-VL，用问题引导剪枝降低分布式视觉问答的隐私泄露
- arXiv
- 2609.15671
- Published
- Setting
- Models and APIs
- Evaluated models
- LLaVA-1.5-7B, Llama-2
- AttacksExtraction and theft
- ComponentVision
AbstractQPriv-VL 在切层前按问题相关度与 DINOv2 敏感度剪视觉 token，作者称能在约四成 token 下兼顾准确率与四类攻击。
QPriv-VL 把问题引导的视觉 token 剪枝做成分布式 VQA 的客户端隐私防御，而不是只做集中式推理加速。
- AttacksarXiv 2609.07048
FreqDoor：面向视觉语言模型的频域后门攻击
提出 FreqDoor，在频域混合振幅并对生成式 VLM 做训练时视觉后门
- arXiv
- 2609.07048
- Published
- Setting
- Models and APIs
- Evaluated models
- BLIP-2 (opt-2.7b), InstructBLIP (flan-t5-xl), LLaVA (interleave-qwen)
- AttacksPoisoning and backdoors
- TechniqueDormant triggers
- ComponentVision
AbstractFreqDoor 用频域振幅混合给三款 VLM 植入仅视觉的训练时后门。
FreqDoor 是针对生成式 VLM 的仅视觉、训练时后门：在频域混合触发源振幅、保留干净图像相位，使触发在空间上分散。
- DefensesarXiv 2609.06346
面向后门攻击下持续学习的鲁棒动态扩展：净化与选择性恢复
提出持续学习下的净化与选择性恢复框架，抵御逐任务训练投毒后门
- arXiv
- 2609.06346
- Published
- Setting
- Models and APIs
- Evaluated models
- ViT-B/16
- DefensesModel hardening
- AttacksPoisoning and backdoors
- ComponentVision
Abstract作者报告任务内净化与恢复可配合动态专家防御后门，但保证依赖分离条件。
这是一项面向持续图像分类的后门防御研究：模型只使用当前任务数据，同时需要保留过去知识并避免学习恶意监督。
- DefensesarXiv 2609.04665
HackProbe：面向自演化语言模型奖励作弊的黑盒检测与免疫方法
提出 HackProbe，黑盒检测并免疫自演化中的奖励作弊
- arXiv
- 2609.04665
- Published
- Setting
- Models and APIs
- DefensesMonitoring and auditing
- RiskReward hacking
- ComponentMonitors
Abstract黑盒探针检测自演化奖励黑客，并以带宽受限重选回收真实能力。
HackProbe 是挂在自演化循环上的黑盒监控器，用来发现奖励黑客并改选候选。
- DefensesarXiv 2608.24354
RACER：面向多模态大模型后门的区域感知一致性修复框架
提出 RACER，用区域感知一致性对抗微调去除多模态大模型后门
- arXiv
- 2608.24354
- Published
- Setting
- Models and APIs
- Evaluated models
- LLaVA-1.5-7B, Qwen2-VL-7B, Qwen2.5-VL-7B
- DefensesModel hardening
- AttacksPoisoning and backdoors
- ComponentVision
- DefensesarXiv 2608.12876
SPARED：用对抗编辑数据训练基于推理的 AI 生成图像检测器
提出 SPARED，用对抗编辑数据训练基于推理的 AI 生成图像检测器
- arXiv
- 2608.12876
- Published
- Setting
- Models and APIs
- Evaluated models
- Qwen3.5-9B
- DefensesDetection and filtering
- AttacksDetection evasion
- ComponentGuardrails and judges
AbstractSPARED 用防捷径的编辑对抗环训练 9B 推理检测器。
SPARED 是一套用于可解释 AI 生成图像检测的攻防强化学习流程，报告模型是 Qwen3.5-9B 上的第三轮防御器。
- Risky behaviorarXiv 2606.04923
CHERRL：可复现、分析与检测评分标准强化学习中的奖励作弊
提出 CHERRL 注入裁判偏差以复现奖励作弊，并用 RHDA 检测训练起点
- arXiv
- 2606.04923
- Published
- Setting
- Models and APIs
- Evaluated models
- Qwen3-4B, Qwen3.5-plus, Qwen3.5-397B-A17B and others4
- DefensesMonitoring and auditing
- RiskReward hacking
- ComponentGuardrails and judges
AbstractCHERRL 注入已知偏差以观察奖励黑客，并用于分析偏差和评测起点检测器 RHDA。
CHERRL 是 rubric-based RL 的可控环境，用来复现奖励黑客、观察奖励分歧，并给检测器提供起点参照。
- DefensesarXiv 2602.18252
Adversarial robustness of discrete image tokenizers
提出无监督对抗微调，加固离散图像 tokenizer
- arXiv
- 2602.18252
- Published
- Setting
- Models and APIs
- Evaluated models
- UniTok, UniTok-MLLM, TiTok-BL128 and others7
- DefensesModel hardening
- AttacksDetection evasion
- ComponentVision
Abstract无监督嵌入攻击暴露离散 tokenizer 的弱点，只微调 encoder 即可提升多任务鲁棒准确率。
作者研究离散图像 tokenizer 的对抗鲁棒性，给出与任务无关的嵌入攻击，以及只微调 encoder 的无监督对抗训练。
- DefensesarXiv 2602.12461
Semantic-aware adversarial fine-tuning for CLIP
Propose SAFT, which uses semantic description ensembles to construct adversarial examples and fine-tune the image encoder
- arXiv
- 2602.12461
- Published
- Setting
- Models and APIs
- Evaluated models
- ViT-B/32, CLIP-L/14
- DefensesModel hardening
- AttacksDetection evasion
- ComponentVision
AbstractSAFT fine-tunes the CLIP image encoder with ensemble adversarial examples from refined class descriptions to improve the trade-off between zero-shot accuracy and robustness.
SAFT is a method for adversarially fine-tuning the CLIP image encoder to improve the accuracy–robustness trade-off in zero-shot classification.
- DefensesarXiv 2602.01750
Adversarial Reward Auditing: Proactively Detecting and Mitigating Reward Hacking
提出 ARA，读取奖励模型激活并门控 RLHF 奖励以缓解奖励作弊
- arXiv
- 2602.01750
- Published
- Setting
- Models and APIs
- Evaluated models
- Llama-2-7B, Llama-3.1-8B, Qwen-2.5-7B
- DefensesMonitoring and auditing
- RiskReward hacking
- ComponentMonitors
AbstractARA 用奖励模型内部表示检出利用，并在 RLHF 里按 Auditor 概率压低代理奖励。
ARA 是一套两阶段的 RLHF 审计：先对冻结奖励模型找出利用回复，再在策略优化时按检出概率压低奖励。