Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 43 papers

Another 233papers do not have category tags yet and are not included in filtered results.

  1. PatchBench 提出激活补丁局部评测协议,揭示越狱修复的附带损伤

    提出 PatchBench-Local 协议,评测激活补丁修复越狱的局部附带损伤

    Published
    Evaluated models
    Qwen2.5-3B-Instruct, Qwen2.5-14B-Instruct, gemma-3-4b-it and others8

    Abstract论文提出 PatchBench 与局部评估协议,揭示了激活补丁在全局能力无损下仍存局部良性退化。

    Paper analysisRead analysis
  2. DefensesarXiv 2610.09703

    研究揭示 Token-Pruning 对 VLM 安全性的影响并提出 SAP 缓解机制

    提出 Safety-Aware Pruning,缓解视觉 token 剪枝放大的多模态越狱

    Published
    Attacker
    Black-box
    Evaluated models
    LLaVA-1.5-7B
    Abstract剪枝去掉背景 token 后注意力塌向恶意前景。

    这篇工作评估视觉 token 剪枝如何改变 VLM 在多模态越狱下的行为,并给出推理时防御 SAP。

    Paper analysisRead analysis
  3. Study: Debiasing directions in LLM latent space primarily encode confidence rather than fairness

    分析 LLM 去偏激活方向,发现其编码置信度而非公平性

    Published
    Evaluated models
    Llama-3.1-8B, Llama-3.1-8B-Instruct, Falcon3-7B-Base and others8

    Abstract论文揭示激活引导去偏见方向主要编码模型置信度而非公平性,偏见评分下降实为诱发弃答或使概率均分的假象。

    Paper analysisRead analysis
  4. DefensesarXiv 2610.06383

    基于影响力的曲率感知数据加权激活引导方法

    提出曲率感知数据加权的激活转向方法,用于毒性抑制与概念控制

    Published
    Evaluated models
    Gemma-2-2B, Llama-3.2-3B
    Abstract影响加权传输压低毒性率,闭式 IF-Act 常换来更高困惑度与更低 MMLU。

    推理时的影响加权激活传输,用曲率修正的样本权重替换传输转向里的均匀类均值。要做的是概念控制,而不是再训练。作者认为类均值被无关概念、噪声和少数 token 主导,编码的是词元级而非主题。

    Paper analysisRead analysis
  5. DefensesarXiv 2610.04967

    One Token Can Be Enough:用 Prefix Steering 连接提示与激活引导

    提出 Prefix Steering,以短前缀激活引导控制行为并保住能力

    Published
    Evaluated models
    OLMo 3 7B, OLMo 3 32B, Qwen3 1.7B and others4
    Abstract短前缀 steering 用已有方向做短暂干预。

    本文用注意力层匹配连接提示词与激活干预,并把干预改成从末提示词 token 开始的短前缀。

    Paper analysisRead analysis
  6. Research reveals that text watermarks induce model hallucinations and proposes two mitigation interventions

    分析文本水印在 RAG 中诱发事实幻觉的机制并提出干预

    Published
    Evaluated models
    LLaMA 3.1 8B Instruct, Mistral-7B-Instruct-v0.3, Qwen2.5-14B-Instruct
    Abstract论文揭示了生产环境文本水印导致模型事实退化的失效模式,分析了解码机制并提出针对性干预。

    论文研究生产级文本水印对大语言模型事实准确性的影响,分析了水印诱发幻觉的失效模式并评估了针对性缓解方案。

    Paper analysisRead analysis
  7. DefensesarXiv 2610.02844

    DNAlign:面向 LLM 的动态零空间安全对齐框架

    提出 DNAlign,在不改权重的推理期用零空间约束控制信号做安全对齐

    Published
    Evaluated models
    Vicuna-7B, Qwen-7B
    AbstractDNAlign 用零空间约束的推理期控制做安全对齐,Table I 平均奖励高于所列基线。

    DNAlign 是一个不改 LLM 参数的安全对齐框架,用来在推理时压低有害输出,并减少对中性知识所支持的流畅、事实回答的改动。

    Paper analysisRead analysis
  8. DefensesarXiv 2610.01969

    RASteer:面向扩散模型概念擦除的保留感知激活引导方法

    提出 RASteer,推理时按保留子空间校正激活以擦除文生图目标概念

    Published
    Evaluated models
    Stable Diffusion v1.4, Stable Diffusion v1.5, Stable Diffusion v2.1 and others4
    AbstractRASteer 用保留子空间校正擦除方向,在固定权重下同时压低目标并保住保留概念。

    Retain-aware Activation Steering(RASteer) 是一种不改权重的推理时概念擦除方法,用于文生图扩散模型去掉指定概念并减少对保留概念的误伤。

    Paper analysisRead analysis
  9. DefensesarXiv 2610.01170

    HeadEdit:通过冻结的 unembedding 矩阵校准语言模型行为

    提出 HeadEdit,经冻结 unembedding 做随输入变化的 logit 校正

    Published
    Evaluated models
    Qwen3-4B, Gemma-3-4B-IT, Llama-3.2-3B-Instruct and others4
    Abstract低秩 unembedding 校正抬高九个设置的总体准确率,并可部分预测 DPO 更新。

    HeadEdit 是一种不更新参数的行为校准方法,作用点是冻结的 unembedding,而不是中间层残差或新的梯度优化。

    Paper analysisRead analysis
  10. DefensesarXiv 2609.37568

    SECRET:用源条件化中继引导缓解音视频大语言模型的幻觉

    提出训练无关的 SECRET,对问题表征做源条件转向以缓解音视频模型幻觉

    Published
    Evaluated models
    VideoLLaMA2-AV-7B, Qwen2.5-Omni-7B, Qwen3-Omni-30B-A3B
    AbstractSECRET 在问题状态上做源条件转向,三个 AVLLM 上减轻了跨模态接地幻觉。

    SECRET 是一种训练无关的问题状态转向方法,用来减轻 AVLLM 的 source-confused grounding hallucination。

    Paper analysisRead analysis
  11. DefensesarXiv 2609.36657

    Constitutional adapters:用推理期干预防御越狱与失准

    提出 Constitutional adapters,蒸馏宪法行为以缓解越狱与失准

    Published
    Evaluated models
    Qwen3.5-4B, Llama-3.1-8B-Instruct, Gemma-4-E4B and others4

    Abstract差分宪法适配器在长上下文和多轮上更稳,并可按 α 换取遵从。

    Paper analysisRead analysis
  12. DefensesarXiv 2609.31122

    LocUS:面向定向激活引导的注意力头选择与子空间投影

    提出 LocUS,用词汇子空间选择注意力头并约束激活转向

    Published
    Evaluated models
    Mistral-7B-v0.1, Mistral-7B-Instruct-v0.3, Llama-3.1-8B and others7
    AbstractLocUS 用词汇子空间约束 DoM 转向的位置和方向。

    LocUS 是不更新权重的推理时转向方法,把差分均值更新限制在少数注意力头及其属性对齐子空间。

    Paper analysisRead analysis
  13. DefensesarXiv 2609.31056

    SCALPEL:用对比稀疏自编码器实现选择性表征层遗忘

    提出 SCALPEL,用对比 SAE 在表征层选择性遗忘特定事实

    Published
    Evaluated models
    Qwen2.5-1.5B-Instruct, Llama-3.2-1B-Instruct, Gemma-2-2B-it
    AbstractSCALPEL 以对比稀疏特征做窄目标表征遗忘,在 TOFU 上与优化基线相当且可检查。

    SCALPEL 是不改基座权重的表征层遗忘方法,面向与保留数据重叠的窄目标。

    Paper analysisRead analysis
  14. DefensesarXiv 2609.30405

    AIMES:通过因果激活引导实现 LLM 自适应多价值观控制

    提出 AIMES 用词表读出在线调节多价值激活干预

    Published
    Evaluated models
    Gemma-3-4B-IT, Gemma-3-12B-IT, Qwen3-4B and others5
    AbstractAIMES 用词表读出闭环调节多价值转向,优势随深度变化且实现扰动更小。

    AIMES 是推理时的多价值激活转向框架,用中间层词表读出把固定系数改成随状态变化的权重。

    Paper analysisRead analysis