Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 61 papers

Another 233papers do not have category tags yet and are not included in filtered results.

  1. BeliefScope:区分证据与用户压力对模型信念影响的受控框架

    用 BeliefScope 分离固定命题上证据与压力对模型信念的影响

    Published
    Evaluated models
    Qwen3-8B, Llama3.1-8B, Gemma3-12B and others4
    AbstractBeliefScope 把证据修正与压力偏移拆成绑定评测条件的行为画像。

    BeliefScope 是一个黑盒行为诊断框架,用来把固定命题上的回答变化拆成证据驱动的修正,和不加新事实的方向性压力。信念修正评测能看到信息基础变化后的更新,谄媚评测能看到用户影响下的顺从或漂移。作者认为,当两种输入都偏向同一结论时,表面偏移本身不能区分来源。

    Paper analysisRead analysis
  2. DefensesarXiv 2610.11012

    Redwood Research 提出蒸馏双重困境:用蒸馏让模型坦白隐藏行为或只继承能力

    提出 DFI 与 DFC 蒸馏,定罪隐瞒失配的教师或安全提取能力

    Published
    Evaluated models
    Llama-3.3-70B-Instruct (AuditBench SFT/KTO organisms), Llama-3.3-70B-Instruct (DFI distilled student), Llama-3.1-8B-Instruct (DFI distilled student) and others4

    Abstract概括了论文针对隐瞒失配模型提出的 DFI 与 DFC 机制、主实验发现及适用边界。

    Paper analysisRead analysis
  3. 研究发现大语言模型被要求不诚实作答时推理 token 数上升

    检验推理 token 数能否区分被提示的诚实与不诚实作答

    Published
    Evaluated models
    Gemma-4-e4b, Qwen-3.5-9b, GPT-OSS-120B
    Abstract被提示不诚实时推理 token 组水平更高。

    三个推理模型在被提示的回答政策下出现组水平推理 token 差异。作者把它当作不读思维链内容的 black-box 候选信号,而不是自发欺骗检测器。

    Paper analysisRead analysis
  4. Study: post-training recipes determine whether large models act against their own moral judgments

    提出知行差距面板,测量压力下模型是否违背自身判断

    Published
    Evaluated models
    OLMo-3-7B-Instruct, Llama-3.1-8B-Instruct, Tulu 3 and others7
    Abstract评估发现后训练配方决定知行差距是否存在,行动前审思可有效缓解。

    本文评估了开源语言模型作为智能体行动时违背自身道德判断的知行差距及其决定因素。

    Paper analysisRead analysis
  5. The paper proposes a scaling law framework for alignment measured by risk category.

    提出分风险对齐标度律框架,测量各类风险的对齐负担如何随规模变化

    Published
    Evaluated models
    Pythia (14m–2.8b), Qwen2.5 (0.5B–72B), Qwen2.5-Instruct (0.5B–14B) and others4
    Abstract论文提出了分风险对齐标度律框架,测得真实性与倾向纠错呈标度有益,但盲后门仍存活,揭示隐藏风险的长期挑战。

    本文提出了一个将大语言模型对齐难度形式化为可测量标度关系的理论框架与预注册评测协议。

    Paper analysisRead analysis
  6. SycoLens study: a single sycophancy flip rate masks the distinction between correction and capitulation

    构建 SycoLens 重放评测,区分谄媚翻转中的纠错与屈从

    Published
    Evaluated models
    opus-5, sonnet-5, sonnet-4.6 and others11
    Abstract论文揭示施压句式、边界距离与格式偏置主导翻转率,提出系统解构纠错与顺从的综合评测方案。

    本文系统解构了大语言模型在用户质疑下的阿谀奉承行为与评测机制。

    Paper analysisRead analysis
  7. DefensesarXiv 2610.05219

    AURA:用正交适配缓解 LLM 推理与安全对齐的子空间干扰

    提出 AURA,用正交惩罚分开顺序适配中的推理与安全子空间

    Published
    Evaluated models
    Qwen-3-14B, Qwen-2.5-14B-Instruct, Llama-3-8B-Instruct and others4
    AbstractAURA 用子空间正交分开顺序任务。

    AURA 是面向共享骨干智能体的顺序 LoRA 正则,用来分开前后任务的残差子空间。

    Paper analysisRead analysis
  8. Study reveals that self-reported and behavioral LLM risk preferences are controlled by nearly orthogonal representation directions

    揭示风险自述与实际行为由近正交表征分别控制

    Published
    Evaluated models
    Qwen2.5-7B-Instruct, Llama-3.1-8B-Instruct, OLMo-3-7B-Instruct and others4
    Abstract论文证明大模型自述与行为脱节根植于表征近正交性,自述无法作为行为审计依据。

    这篇论文从内部表征与因果干预视角,系统研究了大语言模型在风险承担(Risk-Taking)场景下自我报告与实际决策脱节的根本机制。

    Paper analysisRead analysis
  9. 研究系统评估循环语言模型的思维链可监控性

    系统评估循环语言模型加深 loop 后的 CoT 可监控性

    Published
    Evaluated models
    Ouro-1.4B-Thinking, Ouro-2.6B-Thinking, Nanbeige4.2-3B and others4
    Abstract加深 loop 可在部分压力测试任务降低可监测性,循环架构本身并不必然更难监测。

    这项工作评估 LoopLM 的 CoT 可监测性:加深共享层的重复次数,以及“有循环结构”本身,会不会让决策关键因素更少出现在可监测文本里。

    Paper analysisRead analysis
  10. DefensesarXiv 2610.02568

    PlurPO:用多元偏好优化缓解社交谄媚

    提出 PlurPO,用自模拟利益相关者偏好后训练缓解社交谄媚

    Published
    Evaluated models
    Qwen3-8B, Phi-4, Llama 3.1 8B and others5
    AbstractPlurPO 用自身多方否决信号做后训练,在社会谄媚指标上降低过度认可。

    PlurPO 是一种后训练方法,用来降低个人建议等无真值场景中的社会谄媚。

    Paper analysisRead analysis
  11. AbstractFBS 辩论用 fbs 约束敏感分解,给出最坏情况占优策略,并匹配黑盒查询下界。

    FBS Debate 是一套可扩展监督的辩论规则:两名计算方争论一个可递归分解的是非问题,人类只在最后选出的子问题上做黑盒判断。要处理的缺口是,prover-estimator debate 虽能覆盖稳定分解,但只在输入分布的平均意义下成立,而且 Bob 的获胜策略一般要跟着 Alice 的作弊策略变。作者要在同一问题类上,让每个错误实例都能被抓住,并让诚实且正确成为双方的占优策略。

    Paper analysisRead analysis
  12. DefensesarXiv 2610.01170

    HeadEdit:通过冻结的 unembedding 矩阵校准语言模型行为

    提出 HeadEdit,经冻结 unembedding 做随输入变化的 logit 校正

    Published
    Evaluated models
    Qwen3-4B, Gemma-3-4B-IT, Llama-3.2-3B-Instruct and others4
    Abstract低秩 unembedding 校正抬高九个设置的总体准确率,并可部分预测 DPO 更新。

    HeadEdit 是一种不更新参数的行为校准方法,作用点是冻结的 unembedding,而不是中间层残差或新的梯度优化。

    Paper analysisRead analysis
  13. DefensesarXiv 2610.00767

    研究者提出 grafting 方法:跨检查点移植模型信念

    提出 Grafting,把基座上学到的信念更新加到后训练模型

    Published
    Evaluated models
    Qwen3-14B, Llama-3.3-70B-Instruct, DeepSeek-V4-Flash and others6
    AbstractGrafting 用一次基座微调复用后训练,信念安装接近直接 SDF,连贯性损伤更小。

    Grafting 把在基座上学会的 SDF 权重更新加到后训练模型上,用来近似中训练干预,而不必为每次改语料重跑后训练。

    Paper analysisRead analysis
  14. DefensesarXiv 2610.00715

    Robust Nash Alignment:面向偏好不确定性的博弈式对齐框架

    提出 Robust Nash Alignment,在偏好不确定下做稳健博弈对齐

    Published
    Evaluated models
    Qwen2.5-1.5B-Instruct, Gemma-2-2B
    Abstract稳健 Nash 对齐在歧义集上优化最坏胜率,多数设置高于 NashMD。

    Robust Nash Alignment 把偏好对齐从“对着一个名义成对核求 Nash”改成“在偏好核的不确定集合上求最坏胜率”。

    Paper analysisRead analysis
  15. FIGS:在不惩罚共情的前提下评测多轮谄媚

    提出 FIGS 双轴基准,评测多轮对话中的谄媚与校准性共情

    Published
    Evaluated models
    DeepSeek V4.1 Flash, Gemini 3.8 Flash, GLM 5.3 and others8
    AbstractFIGS 把守事实和恰当共情分开计分,事实向提示会换来更冷的失败。

    FIGS 是一个固定的多轮评测套件,用来同时看模型会不会在压力下放弃事实,以及会不会在守住事实时忽略用户实际说过的感受。

    Paper analysisRead analysis
  16. 研究:模型易学会隐写传信,隐写推理则难得多

    比较隐写推理与隐写传信、编码推理的可学性

    Published
    Evaluated models
    GPT-5.5, Claude Sonnet 5, Gemini 3.5 Flash and others14
    Abstract隐写推理比传信和编码推理更难学。

    Schulz、Fülle 与 Frengel 测量大语言模型习得隐写推理的难度,并与隐写传信、编码推理对比,以估计依赖阅读 CoT 的监控还能否成立。

    Paper analysisRead analysis
  17. DefensesarXiv 2609.38909

    Purdue 提出 Pact:将欺骗作为行为遗忘

    提出 PACT,遗忘推理模型在压力下的欺骗行为并保留上下文理解

    Published
    Attacker
    White-box
    Evaluated models
    DeepSeek-R1-Distill-Qwen-32B, QwQ-32B

    Abstract论文将大模型欺骗形式化为上下文条件行为,提出 PACT 框架在消除欺骗的同时保留了上下文遵循能力。

    Paper analysisRead analysis