Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 17 papers

Another 232papers do not have category tags yet and are not included in filtered results.

  1. DefensesarXiv 2610.11352

    RL-ARC:用推理引导的不确定性校准大型推理模型

    提出 RL-ARC,用推理置信度在强化学习中校准推理模型

    Published
    Evaluated models
    Qwen2.5-7B, Qwen3-8B, Llama-8B distilled from DeepSeek-R1
    AbstractRL-ARC 用推理置信度调节答案置信度,作者称可少牺牲精度并改善 ID 与 OOD 校准。

    RL-ARC 是校准感知的强化学习框架,用推理过程的口头置信度调节答案置信度。

    Paper analysisRead analysis
  2. DefensesarXiv 2609.38909

    Purdue 提出 Pact:将欺骗作为行为遗忘

    提出 PACT,遗忘推理模型在压力下的欺骗行为并保留上下文理解

    Published
    Attacker
    White-box
    Evaluated models
    DeepSeek-R1-Distill-Qwen-32B, QwQ-32B

    Abstract论文将大模型欺骗形式化为上下文条件行为,提出 PACT 框架在消除欺骗的同时保留了上下文遵循能力。

    Paper analysisRead analysis
  3. DefensesarXiv 2610.00332

    最弱一环:用最坏情况约束强化学习蒸馏 LLM 推理能力

    提出 worst-case Constrained RL,蒸馏时约束推理前缀偏离以抑制奖励作弊

    Published
    Evaluated models
    Qwen2.5-1.5B, Llama-3.2-3B, Qwen2.5-Coder-0.5B
    Abstract作者提出前缀约束蒸馏。

    这是把推理蒸馏写成最坏前缀约束 RL 的训练研究。作者关心最终答案奖励下的 reward hacking,以及序列平均软惩罚允许局部偏离被其他 token 补偿的问题。

    Paper analysisRead analysis
  4. DefensesarXiv 2609.36641

    从仅结果奖励的强化学习中诱导过程监督

    提出 TIPS,用仅结果奖励诱导生成式过程监督

    Published
    Evaluated models
    Qwen3-4B-Thinking-2507, Qwen3-4B-Instruct-2507, Qwen3-8B-Thinking and others8
    Abstract结果监督的 GRPO 可诱导步骤验证。

    TIPS 用只含结果对错的强化学习训练生成式奖励模型,让步骤级验证出现在思维链里。

    Paper analysisRead analysis
  5. DefensesarXiv 2609.36562

    ThinkingGuard:通过逐步风险归因解码多模态大语言模型中的隐式危害

    构建 TriggerBench 并训练 ThinkingGuard,检测图文隐式风险

    Published
    Evaluated models
    ThinkingGuard(Qwen3-VL-8B-Instruct)
    AbstractTriggerBench 隔离触发条件,ThinkingGuard 用分步归因在隐式风险检测上取得作者报告的较高平均分。

    这篇工作研究多模态隐式风险检测:图文各自良性,风险只在关键元素与触发元素交互时出现。

    Paper analysisRead analysis
  6. DefensesarXiv 2609.35659

    Tracekit:面向自主编码 Agent 的防篡改意图-推理-动作审计系统

    提出 Tracekit,审计编码 Agent 的意图、推理与动作并检测账本篡改

    Published
    Evaluated models
    Claude Code (claude -p, version 2.1), 独立评审(同一 CLI,无工具)
    AbstractTracekit 把意图、自述和动作写入可锚定的哈希链。

    Tracekit 是无第三方依赖的编码智能体审计层:把人类请求、模型自述和已执行动作并排写入可外部锚定的哈希链,执行前用正则门,事后用规则和独立模型互查。

    Paper analysisRead analysis
  7. DefensesarXiv 2608.12876

    SPARED:用对抗编辑数据训练基于推理的 AI 生成图像检测器

    提出 SPARED,用对抗编辑数据训练基于推理的 AI 生成图像检测器

    Published
    Evaluated models
    Qwen3.5-9B
    AbstractSPARED 用防捷径的编辑对抗环训练 9B 推理检测器。

    SPARED 是一套用于可解释 AI 生成图像检测的攻防强化学习流程,报告模型是 Qwen3.5-9B 上的第三轮防御器。

    Paper analysisRead analysis
  8. DefensesarXiv 2604.00012

    研究提出 SafeReAct:恢复后训练大模型被掩盖的安全机制

    提出 SafeReAct,用 LoRA 重激活后训练模型被掩盖的安全机制

    Published
    Evaluated models
    DeepSeek-R1-distilled LLaMA-8B, DeepSeek-R1-distilled Qwen-7B, DeepSeek-R1-distilled Qwen-14B and others9
    AbstractSafeReAct 用剪枝得到的安全表示做 LoRA 对齐,以恢复后训练模型被掩盖的拒绝行为。

    这篇工作针对后训练 LLM 的安全下降,提出表示对齐方法SafeReAct。

    Paper analysisRead analysis
  9. DefensesarXiv 2602.24210

    研究者提出 Staged Decoding 与 SFT 数据集,减少大推理模型推理轨迹中的隐私泄露

    提出 Staged Decoding 与指令跟随训练,减少推理轨迹隐私泄露

    Published
    Evaluated models
    Qwen 3 1.7B, Qwen 3 4B, Qwen 3 8B and others6
    Abstract用一般指令跟随训练加分段解码,可降低轨迹隐私泄露,但数学效用下降。

    本文把大推理模型的隐私问题做成轨迹可控性:隐私指令是指令,轨迹不跟随就会把敏感上下文写进可被提示注入导出的文本。

    Paper analysisRead analysis
  10. DefensesarXiv 2602.00173

    Learning Robust Reasoning through Guided Adversarial Self-Play

    提出 GASP 对抗自博弈训练,使推理模型抵御可错上下文

    Published
    Evaluated models
    DeepSeek-R1-Distill-Qwen-1.5B, DeepScaleR-1.5B, Qwen3-4B and others4
    AbstractGASP 用对抗自博弈和分布内修复引导,提升四个开源模型在可错上下文下的推理表现。

    GASP 是只用终答对错做奖励的后训练方法,目标是让已经会解题的开源推理模型,在条件上下文被局部损坏或轻度扰动时检测并修复。

    Paper analysisRead analysis
  11. DefensesarXiv 2601.09281

    STaR:面向大推理模型遗忘的敏感轨迹调控方法

    提出推理时框架 STaR,抑制大推理模型推理轨迹中的敏感内容

    Published
    Evaluated models
    DeepSeekR1-Distill-Llama-8B
    AbstractSTaR 以推理时轨迹调控做 LRM unlearning,作者称在 R-TOFU 上遗忘与隐私指标更好。

    STaR在推理阶段约束大推理模型的整段 CoT,使指定 forget set 中的敏感内容不出现在中间步骤或最终答案里,且不更新参数。问题来自 LRM 会把敏感知识写进多步推理,而答案级遗忘在 ZeroThink、LessThink 等解码下仍可能泄漏。STaR 先判断查询是否相关并检索遗忘片段,再加安全前缀。

    Paper analysisRead analysis
You have reached the end