Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 9 papers

Another 240papers do not have category tags yet and are not included in filtered results.

  1. 研究系统评估循环语言模型的思维链可监控性

    系统评估循环语言模型加深 loop 后的 CoT 可监控性

    Published
    Evaluated models
    Ouro-1.4B-Thinking, Ouro-2.6B-Thinking, Nanbeige4.2-3B and others4
    Abstract加深 loop 可在部分压力测试任务降低可监测性,循环架构本身并不必然更难监测。

    这项工作评估 LoopLM 的 CoT 可监测性:加深共享层的重复次数,以及“有循环结构”本身,会不会让决策关键因素更少出现在可监测文本里。

    Paper analysisRead analysis
  2. CATCH:面向编码 RL 奖励作弊的可控分析测试台

    构建编码 RL 奖励作弊测试台 CATCH 并检验 CoT 监控失效

    Published
    Evaluated models
    Qwen3-4B, Qwen3.5-27B
    AbstractCATCH 用双运行金标签研究编码 RL 的奖励黑客,并观察到监控会被注释适应削弱。

    CATCH 是面向编码 RL 奖励黑客的可控分析测试床,用可利用环境、可调初始倾向和基于执行的金标签,在训练全程比较黑客动态与干预。

    Paper analysisRead analysis
  3. ThinkingGuard:通过逐步风险归因解码多模态大语言模型中的隐式危害

    构建 TriggerBench 并训练 ThinkingGuard,检测图文隐式风险

    Published
    Evaluated models
    ThinkingGuard(Qwen3-VL-8B-Instruct)
    AbstractTriggerBench 隔离触发条件,ThinkingGuard 用分步归因在隐式风险检测上取得作者报告的较高平均分。

    这篇工作研究多模态隐式风险检测:图文各自良性,风险只在关键元素与触发元素交互时出现。

    Paper analysisRead analysis
  4. Safer Reasoning Traces: Measuring and Mitigating Chain-of-Thought Leakage in Large Language Models

    测量思维链将提示中 PII 复述进轨迹的泄漏并评测轻量检测器

    Published
    Evaluated models
    Llama 3.3:70B, Claude Opus, Mixtral 8×22B and others7
    Abstract作者称 CoT 抬高逐字泄漏且随模型与预算而变,检测器也需按模型选择。

    在“不要复述 PII”的输出策略下,本文用 black-box 协议测量提示词中的 PII 被写回 CoT 与答案的情况,并比较轻量 gatekeeper。

    Paper analysisRead analysis
  5. Consistency of large reasoning models under multi-turn attacks

    评测推理模型在多轮对抗追问下能否守住正确答案

    Published
    Evaluated models
    GPT-5.1, GPT-5.2, DeepSeek-R1 and others9
    Abstract推理带来部分一致性优势,但不能自动变成对抗稳健性。

    这是对九个前沿推理模型在多轮对抗追问下是否守住正确答案的评测,并检验置信度防御 CARG 能否从标准 LLM 迁过来。

    Paper analysisRead analysis
  6. FindTheFlaws:用于检测推理缺陷与可扩展监督研究的标注错误数据集

    构建 FindTheFlaws 并评测模型发现长解答推理缺陷的能力

    Published
    Evaluated models
    gpt-4o-2024-11-20, o3-mini-2025-01-31 (medium), claude-3-5-sonnet-20241022 and others5
    AbstractFindTheFlaws 提供五领域对错长解答与错误标注,并评测模型能否指出具体错误。

    FindTheFlaws 是一组供可扩展监督研究使用的错误检测数据,本文的实验是评测模型找错,不是运行辩论或 prover-verifier 对局。

    Paper analysisRead analysis
  7. 论文提出 ARE 框架,在 VisualWebArena 上评估多模态 Agent 的对抗鲁棒性

    提出 ARE 框架与图像文本攻击,评测多模态网页 Agent 的对抗鲁棒性

    Published
    Setting
    web agent
    Evaluated models
    GPT-4o, GPT-4V, Claude-3-Opus and others4

    Abstract系统评估多模态网页智能体的脆弱性,指出推理时计算组件被攻破会加剧系统风险。

    Paper analysisRead analysis
You have reached the end