跳到正文
10月8日 · 周四

思维链监控 · 论文

找到 4 篇
筛选2

模型自身风险

欺骗与谋划2Agent 危险操作1

防御类型

监控与审计1

影响

越权操作1输出被操纵1监督失效2

系统形态

模型与 API2AI Agent3编程 Agent2

层

模型层2应用层2

系统组件

监控器2

被测模型厂商

其他4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 43 篇还没打标签，不在筛选结果里。
系统形态：模型与 API系统形态：编程 Agent话题：思维链监控清除全部

另有 43 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 评测与基准arXiv:2610.00568 ·

    研究提出对齐诱导不忠实：对齐训练让模型静默改写输入内容

    提出 FAITHCONFLICT，测量对齐训练导致模型静默改写相悖输入

    模型与 API测试Llama-3.1-8B-Instruct、Llama-3.1-70B-Instruct、Tulu-3-8B 等 13 个模型层
    摘要论文揭示并系统分析了大语言模型在安全与常识冲突下静默背离输入的 AIU 现象与三元冲突困境。

    本文系统揭示并实证分析了语言模型后训练中存在的“能力–安全–忠实度”三元冲突。

    完整解读
  4. 评测与基准arXiv:2609.36490 ·

    LLM 仅凭监控器历史判定即可学会规避潜在空间监控

    证明模型仅凭监控判定反馈即可编辑激活规避潜空间监控

    模型与 API测试llama-3.1-8b-instruct、gemma-3-27b-instruct、qwen3-14b 等 4 个模型层
    摘要论文指出 LLM 可仅凭历史二元反馈推断潜空间监控规则并通过激活编辑实现规避，提出潜空间安全监控需应对交互式规避。

    这篇论文研究了语言模型如何仅利用多轮上下文中的二元反馈信息规避内部潜空间监控器。

    完整解读
已经到底了