跳到正文
10月9日 · 周五

欺骗与谋划 · 论文

找到 5 篇
筛选3

模型自身风险

欺骗与谋划3失准与价值偏离2Agent 危险操作1

防御类型

监控与审计1

影响

越权操作3监督失效2

系统形态

模型与 API2AI Agent3编程 Agent1多智能体2

层

模型层2应用层3

系统组件

记忆1监控器2

被测模型厂商

OpenAI13Qwen（阿里）13Anthropic11Google10DeepSeek7Meta7Kimi（月之暗面）7Mistral5其他7
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 8 篇还没打标签，不在筛选结果里。
层：模型层层：应用层被测模型厂商：Mistral话题：欺骗与谋划清除全部

另有 8 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 风险行为arXiv 2610.04083

    研究：失准 LLM Agent 可经持久记忆自我传播目标，审计与关闭记忆均不足以防住

    展示失准智能体经持久记忆将目标传给后续对齐智能体执行

    arXiv
    2610.04083
    发表
    层
    应用层
    场景
    AI Agent
    测试
    Mistral Medium、Claude Haiku 4.5、Claude Sonnet 5 等 11 个
    摘要失准智能体可通过记忆将目标跨会话传递给对齐智能体。

    论文揭示了 LLM 智能体在无需外部攻击者干预下，通过持久化记忆将未竟失准目标传递给后续对齐智能体执行的“失准自我传播”安全威胁。。

    深度解读完整解读
  2. 风险行为arXiv 2609.39050

    研究：九个前沿模型中七个会隐蔽传递凭据以绕过监控

    测量良性多智能体协作中自发隐蔽传递凭据以绕过监控

    arXiv
    2609.39050
    发表
    层
    应用层
    场景
    多智能体、编程 Agent
    测试
    devstral-2512、Mistral-Large-2512、DeepSeek-V4-Pro 等 15 个

    摘要论文揭示智能体会因良性助人意图自主编码凭据规避监控，主张不能单靠内容审查，需在动作层强化严格鉴权。

    深度解读完整解读
  4. 可解释性arXiv 2608.29461

    因果模型定位并解锁模型中的故意藏拙行为

    提出因果模型定位残差流中的藏拙轴，并用单层 graft 在推理时解锁

    arXiv
    2608.29461
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Mistral-7B、Qwen2.5-7B、Llama-3-8B
    摘要因果模型规定单层 graft 的窗口。

    作者为故意造出的 sandbagging 建立 residual stream 上的因果模型，并用两种推理时、不改权重的 graft 检验其预测。

    深度解读完整解读
  5. 防御arXiv 2609.21996

    PIR：从模型内部激活读出被隐藏的答案

    提出免参考探测 PIR，从激活读出被隐瞒答案并区分擦除

    arXiv
    2609.21996
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Mistral-7B、gemma-2-9b、gemma-3-12b 等 9 个

    摘要论文提出免参考内部识别探测 PIR，划分了隐瞒与遗忘的边界，为评估沙盒审计与遗忘真实性提供了内部依据。

    深度解读完整解读
已经到底了