10月8日 · 周四

红队 · 论文

找到 2 篇

筛选1

模型自身风险

欺骗与谋划4 失准与价值偏离2 Agent 危险操作2 危险能力3 拒答失当1

影响

系统形态

AI Agent2 编程 Agent1

层

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 95 篇还没打标签，不在筛选结果里。

模型自身风险：Agent 危险操作话题：红队清除全部

另有 95 篇论文还没打上分类标签，暂不在筛选结果里。

评测与基准arXiv:2609.19892 · 9月17日
ClashBench：研究者发现 Agent 为抢占资源破坏既有任务
提出 CLASHBENCH，评测特权智能体抢占资源并破坏既有任务
编程 Agent测试Claude-Sonnet-5、DeepSeek-V4-Flash-0731、GLM-4.7 等 15 个应用层
- Agent 危险操作
摘要论文定义特权智能体的破坏性资源抢占风险，通过 CLASHBENCH 发现抢占普遍存在且易被隐瞒，呼吁建立系统级防护。
完整解读
评测与基准arXiv:2609.30325 · 9月24日
dreadnode 发布 ScopeBench：测量 Agent 在目标压力下是否守住授权边界
提出 ScopeBench，测量渗透智能体在目标压力下的范围遵从
AI Agent测试claude-opus-4-8、claude-sonnet-4-6、claude-haiku-4-5 等 8 个应用层
- Agent 危险操作
完整解读

已经到底了