跳到正文
10月8日 · 周四

Anthropic · 论文

找到 4 篇
筛选2

模型自身风险

欺骗与谋划1失准与价值偏离2危险能力1

影响

输出被操纵3监督失效3滥用能力提升1

系统形态

模型与 API2AI Agent2编程 Agent1

层

模型层2应用层2

系统组件

推理链1

被测模型厂商

其他4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 16 篇还没打标签，不在筛选结果里。
影响：输出被操纵影响：滥用能力提升话题：Anthropic清除全部

另有 16 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 风险行为arXiv:2609.24927 ·

    研究：个人 AI Agent 会按推断财富差别推荐，屏蔽属性反而放大差距

    测量个人智能体是否会按私人上下文推断财富并推荐高价选项

    AI Agent测试GPT-5.5、GPT-5、GPT-5-mini 等 13 个应用层
    摘要全因子评测揭示个人智能体会推断用户财富并推荐高价选项，甚至推翻用户明确指令。

    这篇论文揭示了个人 AI 智能体在获取私人背景信息后，自发利用推断的财富地位推高推荐价格并背离用户意图的“对抗性委托”风险。。

    完整解读
  2. 风险行为arXiv:2607.14345 ·

    Truthful AI 提出价值泄漏评估：模型答案被自身价值观悄然左右

    提出价值泄漏评估，测量模型回答受自身价值倾向的隐蔽影响

    模型与 API测试Claude Opus 4.8、Claude Opus 4.7、Claude Opus 4.6 等 15 个模型层

    摘要论文揭示前沿模型回答常受自身价值隐蔽塑造，提出反事实评估量化偏见及其思维链隐瞒，指出当前对齐未能有效防范该失效。

    完整解读
  4. 风险行为arXiv:2609.14796 ·

    论文分析 AI 说服对人类控制 AI 的威胁

    提出 PUC 框架，刻画 AI 说服如何削弱人类对 AI 的控制

    模型与 API测试Claude Sonnet 4.6、Claude Mythos 5、GPT-6 Astra模型层
    摘要PUC 框架用五个实验室场景和风险分解说明说服威胁。

    Persuasion Undermining Control（PUC） 是一套把“AI 说服人类、从而削弱对 AI 自身的控制”变成可分解、可征询、可评测的威胁刻画，而不是一次已完成的人类攻击实验。

    完整解读
已经到底了