Skip to content

Translation in progress Some entries still include text in the original language.

Oct 13 · Tuesday

All papers

Found 7 papers
Filter4

Model risks

Deception and scheming3

Impact

Oversight failure4

System type

Models and APIs5

Layer

Model layer7Application layer33

System component

Memory1Guardrails and judges5Monitors6Reasoning chains6Vision8Audio4Video5Image generation3Embeddings0Multimodal16
Select any value within a category; different categories must all match. Counts include the other filters you have selected.Another 215papers have no tags yet and are not included in filtered results.
Layer：Model layerSystem component：MemorySystem component：Reasoning chainsSystem component：EmbeddingsClear all

Another 215papers do not have category tags yet and are not included in filtered results.

  2. Evaluation and benchmarksarXiv 2610.02741

    研究系统评估循环语言模型的思维链可监控性

    系统评估循环语言模型加深 loop 后的 CoT 可监控性

    arXiv
    2610.02741
    Published
    Layer
    Model layer
    Setting
    Models and APIs
    Evaluated models
    Ouro-1.4B-Thinking, Ouro-2.6B-Thinking, Nanbeige4.2-3B and others4
    Abstract加深 loop 可在部分压力测试任务降低可监测性，循环架构本身并不必然更难监测。

    这项工作评估 LoopLM 的 CoT 可监测性：加深共享层的重复次数，以及“有循环结构”本身，会不会让决策关键因素更少出现在可监测文本里。

    Paper analysisRead analysis
  3. Evaluation and benchmarksarXiv 2609.39533

    CATCH：面向编码 RL 奖励作弊的可控分析测试台

    构建编码 RL 奖励作弊测试台 CATCH 并检验 CoT 监控失效

    arXiv
    2609.39533
    Published
    Layer
    Model layer
    Setting
    coding agent
    Evaluated models
    Qwen3-4B, Qwen3.5-27B
    AbstractCATCH 用双运行金标签研究编码 RL 的奖励黑客，并观察到监控会被注释适应削弱。

    CATCH 是面向编码 RL 奖励黑客的可控分析测试床，用可利用环境、可调初始倾向和基于执行的金标签，在训练全程比较黑客动态与干预。

    Paper analysisRead analysis
  4. Evaluation and benchmarksarXiv 2609.39473

    FAME：用反事实推理评测自主智能体的虚假记忆

    提出 FAME，用反事实概念漂移评测智能体虚假记忆

    arXiv
    2609.39473
    Published
    Layer
    Model layer
    Setting
    Models and APIs
    Evaluated models
    Llama-3B
    AbstractFAME 用反事实引起的隐状态概念漂移，在出答案前区分忠实记忆与虚假记忆。

    FAME 是一个免训练的评测框架，用来判断自主智能体的记忆在虚假相关、环境偏移或知识冲突下是否已变成虚假记忆。。

    Paper analysisRead analysis
  5. Evaluation and benchmarksarXiv 2603.05618

    Safer Reasoning Traces: Measuring and Mitigating Chain-of-Thought Leakage in Large Language Models

    测量思维链将提示中 PII 复述进轨迹的泄漏并评测轻量检测器

    arXiv
    2603.05618
    Published
    Layer
    Model layer
    Setting
    Models and APIs
    Evaluated models
    Llama 3.3:70B, Claude Opus, Mixtral 8×22B and others7
    Abstract作者称 CoT 抬高逐字泄漏且随模型与预算而变，检测器也需按模型选择。

    在“不要复述 PII”的输出策略下，本文用 black-box 协议测量提示词中的 PII 被写回 CoT 与答案的情况，并比较轻量 gatekeeper。

    Paper analysisRead analysis
  7. Evaluation and benchmarksarXiv 2503.22989

    FindTheFlaws：用于检测推理缺陷与可扩展监督研究的标注错误数据集

    构建 FindTheFlaws 并评测模型发现长解答推理缺陷的能力

    arXiv
    2503.22989
    Published
    Layer
    Model layer
    Setting
    Models and APIs
    Evaluated models
    gpt-4o-2024-11-20, o3-mini-2025-01-31 (medium), claude-3-5-sonnet-20241022 and others5
    AbstractFindTheFlaws 提供五领域对错长解答与错误标注，并评测模型能否指出具体错误。

    FindTheFlaws 是一组供可扩展监督研究使用的错误检测数据，本文的实验是评测模型找错，不是运行辩论或 prover-verifier 对局。

    Paper analysisRead analysis
You have reached the end