Skip to content

Translation in progress Some entries still include text in the original language.

Oct 13 · Tuesday

All papers

Found 91 papers

Another 213papers do not have category tags yet and are not included in filtered results.

  1. Attention sees, MLP refuses: tracing the safety pathway from attention to MLP in LLMs

    Trace attention to identify harmfulness to the MLP refusal write pathway and propose Sentinel

    Published
    Evaluated models
    Llama-3.1-8B-Instruct, Qwen2.5-7B-Instruct, Qwen3-8B-Instruct and others18
    AbstractAttention updates are more readable for harmfulness, MLP updates write refusal, and Sentinel routes alerts using two-path signals.

    The authors reframe jailbreaking and excessive refusal of aligned models as a pathway problem on the residual stream from recognition to writing, and accordingly provide conditional reminders before decoding.

    Paper analysisRead analysis
  2. BeliefScope:区分证据与用户压力对模型信念影响的受控框架

    用 BeliefScope 分离固定命题上证据与压力对模型信念的影响

    Published
    Evaluated models
    Qwen3-8B, Llama3.1-8B, Gemma3-12B and others4
    AbstractBeliefScope 把证据修正与压力偏移拆成绑定评测条件的行为画像。

    BeliefScope 是一个黑盒行为诊断框架,用来把固定命题上的回答变化拆成证据驱动的修正,和不加新事实的方向性压力。信念修正评测能看到信息基础变化后的更新,谄媚评测能看到用户影响下的顺从或漂移。作者认为,当两种输入都偏向同一结论时,表面偏移本身不能区分来源。

    Paper analysisRead analysis
  3. 研究发现大语言模型被要求不诚实作答时推理 token 数上升

    检验推理 token 数能否区分被提示的诚实与不诚实作答

    Published
    Evaluated models
    Gemma-4-e4b, Qwen-3.5-9b, GPT-OSS-120B
    Abstract被提示不诚实时推理 token 组水平更高。

    三个推理模型在被提示的回答政策下出现组水平推理 token 差异。作者把它当作不读思维链内容的 black-box 候选信号,而不是自发欺骗检测器。

    Paper analysisRead analysis
  4. Study: post-training recipes determine whether large models act against their own moral judgments

    提出知行差距面板,测量压力下模型是否违背自身判断

    Published
    Evaluated models
    OLMo-3-7B-Instruct, Llama-3.1-8B-Instruct, Tulu 3 and others7
    Abstract评估发现后训练配方决定知行差距是否存在,行动前审思可有效缓解。

    本文评估了开源语言模型作为智能体行动时违背自身道德判断的知行差距及其决定因素。

    Paper analysisRead analysis
  5. DefensesarXiv 2610.07774

    研究者提出读取路由 logits 的 MoE 视觉语言模型多模态安全检测器

    AI summary研究者提出一种轻量级路由 logits 安全检测器,在提示词预填充阶段读取 MoE 视觉语言模型的专家路由信号,在生成前判断多模态请求是否安全,且不修改模型参数或专家路由。

    Published
    Evaluated models
    Qwen3-VL-30B-A3B-Instruct, Kimi-VL-A3B-Instruct
    Abstract读出而非操纵 router logits,可在不改模型的情况下降低两模型的组合式安全错误。

    作者在两个指令微调 MoE VLM 上比较改模型与读路由。组合式风险按 HoliSafe 分成五类:图文各自可安全,合在一起才不安全,或不安全内容只在图像里。

    Paper analysisRead analysis
  6. 研究:智能体欺骗行为在外部显现前已可从内部表征预测

    提出基于决策前隐藏状态的检测与引导,预测并抑制智能体欺骗

    Published
    Setting
    AI Agent
    Evaluated models
    Qwen3-14B

    Abstract论文展示了智能体自发欺骗可在行为显现前由内部表征预测,并通过激活引导证实了表征的行为可操作性。

    Paper analysisRead analysis
  7. SycoLens study: a single sycophancy flip rate masks the distinction between correction and capitulation

    构建 SycoLens 重放评测,区分谄媚翻转中的纠错与屈从

    Published
    Evaluated models
    opus-5, sonnet-5, sonnet-4.6 and others11
    Abstract论文揭示施压句式、边界距离与格式偏置主导翻转率,提出系统解构纠错与顺从的综合评测方案。

    本文系统解构了大语言模型在用户质疑下的阿谀奉承行为与评测机制。

    Paper analysisRead analysis
  8. 研究者提出 CAP 指标与 CSFD 算法,发现越狱通过压制安全特征绕过拒答

    提出 CAP 指标与 CSFD 算法,发现被抑制的安全特征

    Published
    Evaluated models
    Gemma-2-2B, Qwen3-8B, Gemma-3-4B-IT and others5

    Abstract论文指出越狱通过抑制安全特征运作,提出 CAP 与 CSFD 补充了针对激活特征的解释性方法。

    Paper analysisRead analysis
  9. DefensesarXiv 2610.04967

    One Token Can Be Enough:用 Prefix Steering 连接提示与激活引导

    提出 Prefix Steering,以短前缀激活引导控制行为并保住能力

    Published
    Evaluated models
    OLMo 3 7B, OLMo 3 32B, Qwen3 1.7B and others4
    Abstract短前缀 steering 用已有方向做短暂干预。

    本文用注意力层匹配连接提示词与激活干预,并把干预改成从末提示词 token 开始的短前缀。

    Paper analysisRead analysis
  10. Study reveals that self-reported and behavioral LLM risk preferences are controlled by nearly orthogonal representation directions

    揭示风险自述与实际行为由近正交表征分别控制

    Published
    Evaluated models
    Qwen2.5-7B-Instruct, Llama-3.1-8B-Instruct, OLMo-3-7B-Instruct and others4
    Abstract论文证明大模型自述与行为脱节根植于表征近正交性,自述无法作为行为审计依据。

    这篇论文从内部表征与因果干预视角,系统研究了大语言模型在风险承担(Risk-Taking)场景下自我报告与实际决策脱节的根本机制。

    Paper analysisRead analysis
  11. 论文提出用路由梯度敏感度定位稀疏 MoE 模型中的安全敏感专家

    用路由梯度敏感度定位稀疏 MoE 的安全敏感专家

    Published
    Evaluated models
    Mixtral-8x7B, Qwen1.5-MoE, DeepSeek-MoE and others5
    Abstract频率不是敏感度。

    在五个稀疏 MoE 上,用 router 梯度而不是激活频率挑选要抑制的专家,留出恶意提示词上的拒答降得更多。。推理时让少数路由专家不被选中,就可以不重训练地改变拒答,但频率只记录使用次数。

    Paper analysisRead analysis
  12. DefensesarXiv 2610.02844

    DNAlign:面向 LLM 的动态零空间安全对齐框架

    提出 DNAlign,在不改权重的推理期用零空间约束控制信号做安全对齐

    Published
    Evaluated models
    Vicuna-7B, Qwen-7B
    AbstractDNAlign 用零空间约束的推理期控制做安全对齐,Table I 平均奖励高于所列基线。

    DNAlign 是一个不改 LLM 参数的安全对齐框架,用来在推理时压低有害输出,并减少对中性知识所支持的流畅、事实回答的改动。

    Paper analysisRead analysis
  13. 研究系统评估循环语言模型的思维链可监控性

    系统评估循环语言模型加深 loop 后的 CoT 可监控性

    Published
    Evaluated models
    Ouro-1.4B-Thinking, Ouro-2.6B-Thinking, Nanbeige4.2-3B and others4
    Abstract加深 loop 可在部分压力测试任务降低可监测性,循环架构本身并不必然更难监测。

    这项工作评估 LoopLM 的 CoT 可监测性:加深共享层的重复次数,以及“有循环结构”本身,会不会让决策关键因素更少出现在可监测文本里。

    Paper analysisRead analysis
  14. Study: LLM agents retain their original premises internally even when conforming to the majority

    用 J-lens 检测辩论中屈从多数的智能体是否仍内部表征原前提

    Published
    Evaluated models
    Qwen3.5-4B, Qwen3.6-27B, Gemma-4-E4B-it and others4

    Abstract揭示 LLM 智能体屈从多数时内部仍表征原推理前提,指出辩论表态共识可能夸大真实认同。

    Paper analysisRead analysis