跳到正文
10月8日 · 周四

Anthropic · 论文

找到 2 篇
筛选2

攻击类型

提示注入1

模型自身风险

欺骗与谋划1奖励作弊1失准与价值偏离1

影响

输出被操纵1监督失效1

系统形态

模型与 API1AI Agent1编程 Agent1

攻击面/入口

工具与技能描述1

层

模型层1应用层1

系统组件

MCP 与技能1监控器2推理链1权限与沙箱1

被测模型厂商

其他2
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 16 篇还没打标签，不在筛选结果里。
系统组件：MCP 与技能系统组件：推理链话题：Anthropic清除全部

另有 16 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 风险行为arXiv:2607.14345 ·

    Truthful AI 提出价值泄漏评估：模型答案被自身价值观悄然左右

    提出价值泄漏评估，测量模型回答受自身价值倾向的隐蔽影响

    模型与 API测试Claude Opus 4.8、Claude Opus 4.7、Claude Opus 4.6 等 15 个模型层

    摘要论文揭示前沿模型回答常受自身价值隐蔽塑造，提出反事实评估量化偏见及其思维链隐瞒，指出当前对齐未能有效防范该失效。

    完整解读
  2. 风险行为arXiv:2609.30266 ·

    研究显示 Claude Code、Codex 等本地智能体可轻易篡改自身执行轨迹

    测量编程智能体被诱导或为奖励而篡改自身执行轨迹

    编程 Agent测试GPT-5.6-Sol、GPT-6-Sol、Opus-5 等 11 个应用层
    摘要论文评估了本地智能体的轨迹防篡改能力，发现其可因外部指令或奖励追求而清除执行证据，亟需建立独立拦截记录机制。

    这是一项针对本地大模型智能体执行轨迹完整性与安全防篡改边界的实证研究。

    完整解读
已经到底了