Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 72 papers

Another 240papers do not have category tags yet and are not included in filtered results.

  1. Attention sees, MLP refuses: tracing the safety pathway from attention to MLP in LLMs

    Trace attention to identify harmfulness to the MLP refusal write pathway and propose Sentinel

    Published
    Evaluated models
    Llama-3.1-8B-Instruct, Qwen2.5-7B-Instruct, Qwen3-8B-Instruct and others18
    AbstractAttention updates are more readable for harmfulness, MLP updates write refusal, and Sentinel routes alerts using two-path signals.

    The authors reframe jailbreaking and excessive refusal of aligned models as a pathway problem on the residual stream from recognition to writing, and accordingly provide conditional reminders before decoding.

    Paper analysisRead analysis
  2. 研究发现大语言模型被要求不诚实作答时推理 token 数上升

    检验推理 token 数能否区分被提示的诚实与不诚实作答

    Published
    Evaluated models
    Gemma-4-e4b, Qwen-3.5-9b, GPT-OSS-120B
    Abstract被提示不诚实时推理 token 组水平更高。

    三个推理模型在被提示的回答政策下出现组水平推理 token 差异。作者把它当作不读思维链内容的 black-box 候选信号,而不是自发欺骗检测器。

    Paper analysisRead analysis
  3. DefensesarXiv 2610.07774

    研究者提出读取路由 logits 的 MoE 视觉语言模型多模态安全检测器

    AI summary研究者提出一种轻量级路由 logits 安全检测器,在提示词预填充阶段读取 MoE 视觉语言模型的专家路由信号,在生成前判断多模态请求是否安全,且不修改模型参数或专家路由。

    Published
    Evaluated models
    Qwen3-VL-30B-A3B-Instruct, Kimi-VL-A3B-Instruct
    Abstract读出而非操纵 router logits,可在不改模型的情况下降低两模型的组合式安全错误。

    作者在两个指令微调 MoE VLM 上比较改模型与读路由。组合式风险按 HoliSafe 分成五类:图文各自可安全,合在一起才不安全,或不安全内容只在图像里。

    Paper analysisRead analysis
  4. 研究:智能体欺骗行为在外部显现前已可从内部表征预测

    提出基于决策前隐藏状态的检测与引导,预测并抑制智能体欺骗

    Published
    Setting
    AI Agent
    Evaluated models
    Qwen3-14B

    Abstract论文展示了智能体自发欺骗可在行为显现前由内部表征预测,并通过激活引导证实了表征的行为可操作性。

    Paper analysisRead analysis
  5. 研究者提出 CAP 指标与 CSFD 算法,发现越狱通过压制安全特征绕过拒答

    提出 CAP 指标与 CSFD 算法,发现被抑制的安全特征

    Published
    Evaluated models
    Gemma-2-2B, Qwen3-8B, Gemma-3-4B-IT and others5

    Abstract论文指出越狱通过抑制安全特征运作,提出 CAP 与 CSFD 补充了针对激活特征的解释性方法。

    Paper analysisRead analysis
  6. DefensesarXiv 2610.04967

    One Token Can Be Enough:用 Prefix Steering 连接提示与激活引导

    提出 Prefix Steering,以短前缀激活引导控制行为并保住能力

    Published
    Evaluated models
    OLMo 3 7B, OLMo 3 32B, Qwen3 1.7B and others4
    Abstract短前缀 steering 用已有方向做短暂干预。

    本文用注意力层匹配连接提示词与激活干预,并把干预改成从末提示词 token 开始的短前缀。

    Paper analysisRead analysis
  7. Study reveals that self-reported and behavioral LLM risk preferences are controlled by nearly orthogonal representation directions

    揭示风险自述与实际行为由近正交表征分别控制

    Published
    Evaluated models
    Qwen2.5-7B-Instruct, Llama-3.1-8B-Instruct, OLMo-3-7B-Instruct and others4
    Abstract论文证明大模型自述与行为脱节根植于表征近正交性,自述无法作为行为审计依据。

    这篇论文从内部表征与因果干预视角,系统研究了大语言模型在风险承担(Risk-Taking)场景下自我报告与实际决策脱节的根本机制。

    Paper analysisRead analysis
  8. 论文提出用路由梯度敏感度定位稀疏 MoE 模型中的安全敏感专家

    用路由梯度敏感度定位稀疏 MoE 的安全敏感专家

    Published
    Evaluated models
    Mixtral-8x7B, Qwen1.5-MoE, DeepSeek-MoE and others5
    Abstract频率不是敏感度。

    在五个稀疏 MoE 上,用 router 梯度而不是激活频率挑选要抑制的专家,留出恶意提示词上的拒答降得更多。。推理时让少数路由专家不被选中,就可以不重训练地改变拒答,但频率只记录使用次数。

    Paper analysisRead analysis
  9. DefensesarXiv 2610.02844

    DNAlign:面向 LLM 的动态零空间安全对齐框架

    提出 DNAlign,在不改权重的推理期用零空间约束控制信号做安全对齐

    Published
    Evaluated models
    Vicuna-7B, Qwen-7B
    AbstractDNAlign 用零空间约束的推理期控制做安全对齐,Table I 平均奖励高于所列基线。

    DNAlign 是一个不改 LLM 参数的安全对齐框架,用来在推理时压低有害输出,并减少对中性知识所支持的流畅、事实回答的改动。

    Paper analysisRead analysis
  10. 研究系统评估循环语言模型的思维链可监控性

    系统评估循环语言模型加深 loop 后的 CoT 可监控性

    Published
    Evaluated models
    Ouro-1.4B-Thinking, Ouro-2.6B-Thinking, Nanbeige4.2-3B and others4
    Abstract加深 loop 可在部分压力测试任务降低可监测性,循环架构本身并不必然更难监测。

    这项工作评估 LoopLM 的 CoT 可监测性:加深共享层的重复次数,以及“有循环结构”本身,会不会让决策关键因素更少出现在可监测文本里。

    Paper analysisRead analysis
  11. Study: LLM agents retain their original premises internally even when conforming to the majority

    用 J-lens 检测辩论中屈从多数的智能体是否仍内部表征原前提

    Published
    Evaluated models
    Qwen3.5-4B, Qwen3.6-27B, Gemma-4-E4B-it and others4

    Abstract揭示 LLM 智能体屈从多数时内部仍表征原推理前提,指出辩论表态共识可能夸大真实认同。

    Paper analysisRead analysis
  12. DefensesarXiv 2610.01170

    HeadEdit:通过冻结的 unembedding 矩阵校准语言模型行为

    提出 HeadEdit,经冻结 unembedding 做随输入变化的 logit 校正

    Published
    Evaluated models
    Qwen3-4B, Gemma-3-4B-IT, Llama-3.2-3B-Instruct and others4
    Abstract低秩 unembedding 校正抬高九个设置的总体准确率,并可部分预测 DPO 更新。

    HeadEdit 是一种不更新参数的行为校准方法,作用点是冻结的 unembedding,而不是中间层残差或新的梯度优化。

    Paper analysisRead analysis
  13. 研究揭示 Transformer 拒答机制中的组件与维度稀疏性

    定位写入 Transformer 拒答方向的稀疏组件与残差维度

    Published
    Evaluated models
    Gemma-2-2B-IT, Qwen3-4B, Phi-4-Mini-Instruct and others4
    Abstract四模型上拒答转向集中于稀疏组件和约一半残差维度,而非均匀编码。

    这篇工作把拒答转向从残差流单点干预拆到组件和坐标,看 refusal 方向 r* 是被哪些上游模块组装出来的。

    Paper analysisRead analysis
  14. 研究:模型易学会隐写传信,隐写推理则难得多

    比较隐写推理与隐写传信、编码推理的可学性

    Published
    Evaluated models
    GPT-5.5, Claude Sonnet 5, Gemini 3.5 Flash and others14
    Abstract隐写推理比传信和编码推理更难学。

    Schulz、Fülle 与 Frengel 测量大语言模型习得隐写推理的难度,并与隐写传信、编码推理对比,以估计依赖阅读 CoT 的监控还能否成立。

    Paper analysisRead analysis