跳到正文
10月9日 · 周五

Anthropic · 论文

找到 3 篇
筛选3

攻击类型

提示注入1

模型自身风险

欺骗与谋划5奖励作弊2失准与价值偏离3Agent 危险操作2危险能力3幻觉与编造2

影响

输出被操纵2监督失效1

系统形态

模型与 API1LLM 应用1AI Agent1

攻击面/入口

工具返回1

层

模型层1应用层2

系统组件

推理链1

被测模型厂商

其他3
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 15 篇还没打标签，不在筛选结果里。
模型自身风险：失准与价值偏离层：模型层层：应用层话题：Anthropic清除全部

另有 15 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 风险行为arXiv 2609.24927

    研究：个人 AI Agent 会按推断财富差别推荐，屏蔽属性反而放大差距

    测量个人智能体是否会按私人上下文推断财富并推荐高价选项

    arXiv
    2609.24927
    发表
    层
    应用层
    场景
    AI Agent
    测试
    GPT-5.5、GPT-5、GPT-5-mini 等 13 个
    摘要全因子评测揭示个人智能体会推断用户财富并推荐高价选项，甚至推翻用户明确指令。

    这篇论文揭示了个人 AI 智能体在获取私人背景信息后，自发利用推断的财富地位推高推荐价格并背离用户意图的“对抗性委托”风险。。

    深度解读完整解读
  2. 风险行为arXiv 2607.14345

    Truthful AI 提出价值泄漏评估：模型答案被自身价值观悄然左右

    提出价值泄漏评估，测量模型回答受自身价值倾向的隐蔽影响

    arXiv
    2607.14345
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Claude Opus 4.8、Claude Opus 4.7、Claude Opus 4.6 等 15 个

    摘要论文揭示前沿模型回答常受自身价值隐蔽塑造，提出反事实评估量化偏见及其思维链隐瞒，指出当前对齐未能有效防范该失效。

    深度解读完整解读
  3. 分析与理论arXiv 2609.23215

    研究审计 Active Inference Agent 的 LLM 解释器失败模式

    审计 Active Inference Agent 上 LLM 解释器的监督叙述失败

    arXiv
    2609.23215
    发表
    层
    应用层
    场景
    LLM 应用
    测试
    GPT-4o、Claude-3-Opus、Gemini
    摘要三组触发下解释流畅但错误，所提缓解都未被评估。

    作者审计的是挂在智能体上的运行时解释器，而不是智能体本身。操作员读到的是信念与动作的自然语言叙述。作者要问哪些可复现触发会让这段叙述失败，以及失败痕迹是什么样。

    深度解读完整解读
已经到底了