10月8日 · 周四

Anthropic · 论文

找到 2 篇

筛选1

攻击类型

攻击技术

模型自身风险

欺骗与谋划5 奖励作弊2 失准与价值偏离2 Agent 危险操作2 危险能力2

影响

滥用能力提升2

系统形态

AI Agent2 编程 Agent2

攻击者权限

攻击面/入口

层

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 16 篇还没打标签，不在筛选结果里。

模型自身风险：危险能力话题：Anthropic 清除全部

另有 16 篇论文还没打上分类标签，暂不在筛选结果里。

评测与基准arXiv:2607.18538 · 7月21日
CryptanalysisBench：五个前沿模型在 191 项密码分析任务上的表现
提出 CryptanalysisBench，评测模型端到端破解真实密码原语的能力
编程 Agent测试Claude Opus 4.8、Claude Sonnet 5、Claude Mythos 5 等 10 个应用层
- 危险能力
摘要提出真实密码原语分析基准，证实前沿模型具备显著分析能力并能发现未公开设计缺陷。
完整解读
攻击arXiv:2609.15383 · 9月14日
微软团队提出 capability laundering 攻击：弱模型拆分任务向对齐前沿模型套取能力
提出能力洗钱攻击，让未对齐编排器拆分任务向对齐模型套取能力
编程 Agent攻击者黑盒测试GPT-5.5、Claude Opus 4.8、Grok-4.3 等 7 个应用层
摘要作者提出了能力洗钱攻击，发现未对齐编排器分解咨询对齐模型可恢复能力差距，指出需建立跨会话防御。
完整解读

已经到底了