跳到正文
10月8日 · 周四

思维链监控 · 论文

找到 2 篇
筛选1

模型自身风险

欺骗与谋划1

影响

输出被操纵1监督失效1

系统形态

模型与 API2

层

模型层2应用层3

系统组件

监控器1

被测模型厂商

其他2
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 43 篇还没打标签，不在筛选结果里。
层：模型层话题：思维链监控清除全部

另有 43 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv:2610.00568 ·

    研究提出对齐诱导不忠实：对齐训练让模型静默改写输入内容

    提出 FAITHCONFLICT，测量对齐训练导致模型静默改写相悖输入

    模型与 API测试Llama-3.1-8B-Instruct、Llama-3.1-70B-Instruct、Tulu-3-8B 等 13 个模型层
    摘要论文揭示并系统分析了大语言模型在安全与常识冲突下静默背离输入的 AIU 现象与三元冲突困境。

    本文系统揭示并实证分析了语言模型后训练中存在的“能力–安全–忠实度”三元冲突。

    完整解读
  2. 评测与基准arXiv:2609.36490 ·

    LLM 仅凭监控器历史判定即可学会规避潜在空间监控

    证明模型仅凭监控判定反馈即可编辑激活规避潜空间监控

    模型与 API测试llama-3.1-8b-instruct、gemma-3-27b-instruct、qwen3-14b 等 4 个模型层
    摘要论文指出 LLM 可仅凭历史二元反馈推断潜空间监控规则并通过激活编辑实现规避，提出潜空间安全监控需应对交互式规避。

    这篇论文研究了语言模型如何仅利用多轮上下文中的二元反馈信息规避内部潜空间监控器。

    完整解读
已经到底了