跳到正文
10月8日 · 周四

思维链监控 · 论文

找到 3 篇
筛选2

模型自身风险

欺骗与谋划1奖励作弊1

影响

输出被操纵1监督失效2

系统形态

模型与 API2AI Agent1编程 Agent1

层

模型层2应用层6训练与数据层1

系统组件

监控器2推理链1

被测模型厂商

其他3
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 30 篇还没打标签，不在筛选结果里。
层：模型层层：训练与数据层话题：思维链监控清除全部

另有 30 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv 2610.00568

    研究提出对齐诱导不忠实：对齐训练让模型静默改写输入内容

    提出 FAITHCONFLICT，测量对齐训练导致模型静默改写相悖输入

    arXiv
    2610.00568
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Llama-3.1-8B-Instruct、Llama-3.1-70B-Instruct、Tulu-3-8B 等 13 个
    摘要论文揭示并系统分析了大语言模型在安全与常识冲突下静默背离输入的 AIU 现象与三元冲突困境。

    本文系统揭示并实证分析了语言模型后训练中存在的“能力–安全–忠实度”三元冲突。

    深度解读完整解读
  2. 评测与基准arXiv 2609.39533

    CATCH：面向编码 RL 奖励作弊的可控分析测试台

    提出 CATCH 测试台，复现编码 RL 的奖励作弊

    arXiv
    2609.39533
    发表
    层
    训练与数据层
    场景
    编程 Agent
    测试
    Qwen3-4B、Qwen3.5-Plus、Qwen3.5-27B
    摘要CATCH 用双运行金标签研究编码 RL 的奖励黑客，并观察到监控会被注释适应削弱。

    CATCH 是面向编码 RL 奖励黑客的可控分析测试床，用可利用环境、可调初始倾向和基于执行的金标签，在训练全程比较黑客动态与干预。

    深度解读完整解读
  3. 评测与基准arXiv 2609.36490

    LLM 仅凭监控器历史判定即可学会规避潜在空间监控

    证明模型仅凭监控判定反馈即可编辑激活规避潜空间监控

    arXiv
    2609.36490
    发表
    层
    模型层
    场景
    模型与 API
    测试
    llama-3.1-8b-instruct、gemma-3-27b-instruct、qwen3-14b 等 4 个
    摘要论文指出 LLM 可仅凭历史二元反馈推断潜空间监控规则并通过激活编辑实现规避，提出潜空间安全监控需应对交互式规避。

    这篇论文研究了语言模型如何仅利用多轮上下文中的二元反馈信息规避内部潜空间监控器。

    深度解读完整解读
已经到底了