跳到正文
10月13日 · 周二

防御与护栏 · 论文

找到 5篇
筛选1
同一类里任选其一,不同类之间同时满足;数字是加上其他已选条件后的篇数。
  1. 防御arXiv 2609.36562

    ThinkingGuard:通过逐步风险归因解码多模态大语言模型中的隐式危害

    构建 TriggerBench 并训练 ThinkingGuard,检测图文隐式风险

    发表
    被测模型
    ThinkingGuard(Qwen3-VL-8B-Instruct)
    摘要TriggerBench 隔离触发条件,ThinkingGuard 用分步归因在隐式风险检测上取得作者报告的较高平均分。

    这篇工作研究多模态隐式风险检测:图文各自良性,风险只在关键元素与触发元素交互时出现。

    深度解读完整解读
  2. 防御arXiv 2604.00012

    研究提出 SafeReAct:恢复后训练大模型被掩盖的安全机制

    提出 SafeReAct,用 LoRA 重激活后训练模型被掩盖的安全机制

    发表
    被测模型
    DeepSeek-R1-distilled LLaMA-8B、DeepSeek-R1-distilled Qwen-7B、DeepSeek-R1-distilled Qwen-14B 等9个
    摘要SafeReAct 用剪枝得到的安全表示做 LoRA 对齐,以恢复后训练模型被掩盖的拒绝行为。

    这篇工作针对后训练 LLM 的安全下降,提出表示对齐方法SafeReAct。

    深度解读完整解读
已经到底了