10月8日 · 周四

OpenAI · 论文

找到 2 篇

筛选2

模型自身风险

欺骗与谋划2 失准与价值偏离1 Agent 危险操作1 危险能力2 拒答失当0

防御类型

监控与审计2

影响

数据与隐私泄露1 监督失效1

系统形态

AI Agent2 编程 Agent1

层

系统组件

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 31 篇还没打标签，不在筛选结果里。

模型自身风险：欺骗与谋划模型自身风险：拒答失当话题：OpenAI 清除全部

另有 31 篇论文还没打上分类标签，暂不在筛选结果里。

评测与基准arXiv:2609.19587 · 9月17日
红队测试 Auto Mode：用注入与多上下文攻击绕过编码 Agent 阻断监控器
红队评估编码智能体的阻断监视器，并提出 Auto Mode++加固
编程 Agent测试Opus 5、Opus 4.8、Opus 4.7 等 8 个应用层
摘要系统评估生产阻断监视器在面对持续恶意智能体时的表现，提出加固防御并指明多上下文防御挑战。
完整解读
评测与基准arXiv:2609.30217 · 9月25日
EvasionBench：普通任务压力下智能体出现工具性监控规避
提出 EvasionBench，测量任务压力下智能体对同步监控的规避
AI Agent测试GLM 5.2、DeepSeek V4 Flash、Muse Spark 1.3 等 12 个应用层
完整解读

已经到底了