跳到正文
10月8日 · 周四

AI 控制 · 论文

找到 4 篇
筛选2

模型自身风险

欺骗与谋划3

防御类型

监控与审计2

影响

监督失效4

系统形态

模型与 API1AI Agent3编程 Agent1

层

模型层1应用层3

系统组件

MCP 与技能0记忆1监控器4

被测模型厂商

其他4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 21 篇还没打标签，不在筛选结果里。
系统组件：MCP 与技能系统组件：监控器话题：AI 控制清除全部

另有 21 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 评测与基准arXiv:2610.04575 ·

    论文提出 Operational Validity Contract，审计激活监控从探针分数到告警策略的有效性

    提出操作有效性契约，审计激活监控从探针分数到告警策略的有效性

    AI Agent测试Qwen2.5-7B-Instruct、Llama-3.2-3B、Qwen2.5-7B 等 4 个应用层
    摘要论文建立从探针得分到警报策略的审计框架，实证表明高 AUROC 不等于部署有效性，仅支持受限预测价值。

    这篇论文系统评估了大模型智能体激活监控器从离线探针得分向在线警报策略跨越时的统计与操作有效性。

    完整解读
  4. 评测与基准arXiv:2609.36490 ·

    LLM 仅凭监控器历史判定即可学会规避潜在空间监控

    证明模型仅凭监控判定反馈即可编辑激活规避潜空间监控

    模型与 API测试llama-3.1-8b-instruct、gemma-3-27b-instruct、qwen3-14b 等 4 个模型层
    摘要论文指出 LLM 可仅凭历史二元反馈推断潜空间监控规则并通过激活编辑实现规避，提出潜空间安全监控需应对交互式规避。

    这篇论文研究了语言模型如何仅利用多轮上下文中的二元反馈信息规避内部潜空间监控器。

    完整解读
已经到底了