Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 47 papers

Another 265papers do not have category tags yet and are not included in filtered results.

  1. DefensesarXiv 2610.11012

    Redwood Research 提出蒸馏双重困境:用蒸馏让模型坦白隐藏行为或只继承能力

    提出 DFI 与 DFC 蒸馏,定罪隐瞒失配的教师或安全提取能力

    Published
    Evaluated models
    Llama-3.3-70B-Instruct (AuditBench SFT/KTO organisms), Llama-3.3-70B-Instruct (DFI distilled student), Llama-3.1-8B-Instruct (DFI distilled student) and others4

    Abstract概括了论文针对隐瞒失配模型提出的 DFI 与 DFC 机制、主实验发现及适用边界。

    Paper analysisRead analysis
  2. 研究发现大语言模型被要求不诚实作答时推理 token 数上升

    检验推理 token 数能否区分被提示的诚实与不诚实作答

    Published
    Evaluated models
    Gemma-4-e4b, Qwen-3.5-9b, GPT-OSS-120B
    Abstract被提示不诚实时推理 token 组水平更高。

    三个推理模型在被提示的回答政策下出现组水平推理 token 差异。作者把它当作不读思维链内容的 black-box 候选信号,而不是自发欺骗检测器。

    Paper analysisRead analysis
  3. 研究:LLM 潜在空间去偏方向主要编码置信度而非公平性

    分析 LLM 去偏激活方向,发现其编码置信度而非公平性

    Published
    Evaluated models
    Llama-3.1-8B, Llama-3.1-8B-Instruct, Falcon3-7B-Base and others8

    Abstract论文揭示激活引导去偏见方向主要编码模型置信度而非公平性,偏见评分下降实为诱发弃答或使概率均分的假象。

    Paper analysisRead analysis
  4. 研究:财务信息披露越少,Llama-3.1-8B-Instruct 的理财建议越受身份影响

    测量财务事实变少时身份对股权配置建议的替代

    Published
    Evaluated models
    Llama-3.1-8B-Instruct, Qwen2.5-1.5B-Instruct
    Abstract身份摆幅随披露减少上升。

    同一财务只改人设,测量披露变薄时股权建议里的身份替代。

    Paper analysisRead analysis
  5. Study reveals that self-reported and behavioral LLM risk preferences are controlled by nearly orthogonal representation directions

    揭示风险自述与实际行为由近正交表征分别控制

    Published
    Evaluated models
    Qwen2.5-7B-Instruct, Llama-3.1-8B-Instruct, OLMo-3-7B-Instruct and others4
    Abstract论文证明大模型自述与行为脱节根植于表征近正交性,自述无法作为行为审计依据。

    这篇论文从内部表征与因果干预视角,系统研究了大语言模型在风险承担(Risk-Taking)场景下自我报告与实际决策脱节的根本机制。

    Paper analysisRead analysis
  6. 研究系统评估循环语言模型的思维链可监控性

    系统评估循环语言模型加深 loop 后的 CoT 可监控性

    Published
    Evaluated models
    Ouro-1.4B-Thinking, Ouro-2.6B-Thinking, Nanbeige4.2-3B and others4
    Abstract加深 loop 可在部分压力测试任务降低可监测性,循环架构本身并不必然更难监测。

    这项工作评估 LoopLM 的 CoT 可监测性:加深共享层的重复次数,以及“有循环结构”本身,会不会让决策关键因素更少出现在可监测文本里。

    Paper analysisRead analysis
  7. AbstractFBS 辩论用 fbs 约束敏感分解,给出最坏情况占优策略,并匹配黑盒查询下界。

    FBS Debate 是一套可扩展监督的辩论规则:两名计算方争论一个可递归分解的是非问题,人类只在最后选出的子问题上做黑盒判断。要处理的缺口是,prover-estimator debate 虽能覆盖稳定分解,但只在输入分布的平均意义下成立,而且 Bob 的获胜策略一般要跟着 Alice 的作弊策略变。作者要在同一问题类上,让每个错误实例都能被抓住,并让诚实且正确成为双方的占优策略。

    Paper analysisRead analysis
  8. OtherarXiv 2610.01005

    基于容忍度的公平性审计:违规认证与敏感性筛查

    提出容忍度公平性审计,用 CEL 认证违规并用 SEL 筛查

    Published
    Evaluated models
    COMPAS
    Abstract容忍阈值下,CEL 做违规认证,SEL 与 ASEL 做更敏感的筛查。

    这篇工作给出一套按审计目标切换校准的容忍公平审计:差异不必为零,而是看预先指定的不利方向上是否超过允许阈值。

    Paper analysisRead analysis
  9. OtherarXiv 2609.40034

    ALeBi:用 bias probe 主动审计多群体公平性

    提出 k-ALeBi 偏差探针,主动审计黑盒模型的多组公平性

    Published
    Evaluated models
    linear model, random forest, MLP
    Abstract偏差探针把多组公平审计变成比较函数学习,并分开审计与重构。

    k-ALeBi 把黑盒多组公平审计写成跨组比较函数的学习,而不是先重构分类器。

    Paper analysisRead analysis
  10. 研究:模型易学会隐写传信,隐写推理则难得多

    比较隐写推理与隐写传信、编码推理的可学性

    Published
    Evaluated models
    GPT-5.5, Claude Sonnet 5, Gemini 3.5 Flash and others14
    Abstract隐写推理比传信和编码推理更难学。

    Schulz、Fülle 与 Frengel 测量大语言模型习得隐写推理的难度,并与隐写传信、编码推理对比,以估计依赖阅读 CoT 的监控还能否成立。

    Paper analysisRead analysis
  11. DefensesarXiv 2609.39107

    MASCRDM:面向大语言模型训练过程的合规风险检测与缓解多智能体系统

    提出 MASCRDM,在监督微调中实时检测并缓解偏见

    Published
    Evaluated models
    Qwen3-8B-Base, Llama-3.1-8B
    AbstractMASCRDM 在 SFT 中按法规图谱检测数据、结构与损失风险,BBQ 总准确率在两模型上最高。

    MASCRDM 把 AI 法律规章编成知识图谱,再由五个智能体在 LLM 训练中做实时合规检测与缓解,实验以偏见与歧视为代表风险。

    Paper analysisRead analysis
  12. 面向算法公平性的 Rank Graduation 指标

    提出 Rank Graduation Fairness 指标,检验群体间预测误差负担是否可比

    Published
    Evaluated models
    logistic regression, random forest, gradient boosting and others4
    Abstract用误差排序、置换检验和特征移除评估信贷公平,HMDA 上四模型均拒绝零假设。

    用预测误差的排序分布、置换检验和特征移除,评估信贷模型在受保护群体间的公平。。

    Paper analysisRead analysis
  13. DefensesarXiv 2609.38909

    Purdue 提出 Pact:将欺骗作为行为遗忘

    提出 PACT,遗忘推理模型在压力下的欺骗行为并保留上下文理解

    Published
    Attacker
    White-box
    Evaluated models
    DeepSeek-R1-Distill-Qwen-32B, QwQ-32B

    Abstract论文将大模型欺骗形式化为上下文条件行为,提出 PACT 框架在消除欺骗的同时保留了上下文遵循能力。

    Paper analysisRead analysis
  14. DefensesarXiv 2609.38645

    用探针引导微调对齐模型且不损失可监控性

    用持续更新的探针做微调,降低有害性并保持线性可监测性

    Published
    Evaluated models
    Mistral 7B Instruct v0.1, Llama 3 8B Instruct Abliterated, Qwen3-14B
    Abstract持续重拟合的探针可降低有害性、提高诚实性,训练后概念仍能被线性探针读出。

    Probe-guided fine-tuning 把探针分数当作唯一对齐信号,用来推动 harmlessness 与 honesty,并检查训练后这些概念是否仍线性可读。

    Paper analysisRead analysis
  15. 剪枝提效却牺牲公平:剪枝语音 LLM 中的群体差异

    测量剪枝对语音 LLM 群体转写公平性的影响

    Published
    Evaluated models
    Whisper Small (12 layers), Whisper Medium (24 layers), Whisper Large-v2 (32 layers)

    Abstract剪枝后的 Speech-LLM 不能只看总体 WER:Fair-Speech 上族群差扩大,作者建议看最差组。

    Paper analysisRead analysis
  16. 研究:隐蔽推理必然留下信息痕迹,但思维链未必可读

    分析隐蔽推理在思维链监控下的信息足迹下界与不可读性

    Published
    Evaluated models
    Qwen2.5-7B-Instruct, Llama-3.1-8B-Instruct, Qwen 3.5 397B-A17B and others12

    Abstract论文从理论与实证探明了思维链监控的边界:复杂隐蔽计算必然泄露信息足迹且需承担长度税,但该足迹可被在线加密而不可读。

    Paper analysisRead analysis