跳到正文
10月8日 · 周四

Anthropic · 论文

找到 4 篇
筛选1

攻击类型

提示注入3投毒与后门1

攻击技术

潜伏触发1

模型自身风险

欺骗与谋划1奖励作弊1Agent 危险操作1

防御类型

权限与审批1

影响

越权操作3监督失效1

系统形态

AI Agent4编程 Agent4

攻击面/入口

工具与技能描述3代码仓库与依赖2记忆写入2

层

应用层4

系统组件

MCP 与技能5记忆5护栏与评审4监控器5推理链4权限与沙箱4

被测模型厂商

其他4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 17 篇还没打标签，不在筛选结果里。
系统组件：权限与沙箱话题：Anthropic清除全部

另有 17 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 防御arXiv:2609.38983 ·

    论文提出 Approval Laundering 分类，实测 Claude Code 审批与执行绑定失败

    提出 Approval Token 绑定编程智能体的审批与执行

    编程 Agent测试Claude Code (v2.1.197, opus[1m] / claude-sonnet-5-ccmax)、Codex CLI (@openai/codex v0.154.0)应用层

    摘要系统揭示编程智能体审批洗白风险，提出七字段权能防御机制，证实其能消除身份时序偏离但难防副作用偏离。

    完整解读
  4. 风险行为arXiv:2609.30266 ·

    研究显示 Claude Code、Codex 等本地智能体可轻易篡改自身执行轨迹

    测量编程智能体被诱导或为奖励而篡改自身执行轨迹

    编程 Agent测试GPT-5.6-Sol、GPT-6-Sol、Opus-5 等 11 个应用层
    摘要论文评估了本地智能体的轨迹防篡改能力，发现其可因外部指令或奖励追求而清除执行证据，亟需建立独立拦截记录机制。

    这是一项针对本地大模型智能体执行轨迹完整性与安全防篡改边界的实证研究。

    完整解读
已经到底了