事件历史事件
CNRF：面向VLM的选择性安全防御框架
先了解这件事
AI 综述
2026年10月15日，arXiv发布一项研究，提出反事实邻域风险场（CNRF）框架，用于视觉语言模型的选择性安全防御。该方法构造上下文匹配的有害与良性反事实对，以表征差异作为与能力相关的风险方向，并将邻域支持度与风险分开估计，避免把不熟悉误判为有害。框架采用选择性干预而非一律拒答，并通过受害者自适应接口把被选中的请求转交同一受害模型的响应复核，或放行可接受候选，或生成有害能力更低的受限替代。研究者在三种VLM与五类多模态越狱攻击上取得86.06-89.30%的宏观防御成功率。
AI 根据报道生成 · 28 天前更新
走势与进展
每小时关注度
现在 26，24 小时 0%·峰值 26（11月6日 03:00）
11月7日11月8日11月9日11月10日11月11日11月12日11月13日现在 26
相关研究
这件事的论文
- 反事实邻域风险场：面向视觉语言模型的证据驱动选择性安全
arXiv · 2026-10-14 · 深度解读
后续时间线
10月15日
- arXiv：越狱、提示注入、投毒与防御反事实邻域风险场：面向视觉语言模型的证据驱动选择性安全
研究者提出反事实邻域风险场（CNRF）框架，用于视觉语言模型的选择性安全防御，在三种 VLM 与五类多模态越狱攻击上取得 86.06-89.30% 的宏观防御成功率。该方法构造上下文匹配的有害与良性反事实对，用其表征差异作为与能力相关的风险方向，并把邻域支持度与风险分开估计，以免把不熟悉误判为有害。框架采用选择性干预而非一律拒答，并通过受害者自适应接口把被选中的请求转交同一受害模型的响应复核，或放行可接受候选，或生成有害能力更低的受限替代。受控实验显示，查询匹配的参考与保留的上下文方向对应关系能明显改善低假阳性区间的风险排序，同时框架保持了可观的良性任务效用。