10月8日 · 周四

OpenAI · 论文

找到 2 篇

筛选2

攻击类型

模型自身风险

失准与价值偏离1

影响

系统形态

AI Agent2 编程 Agent1

攻击面/入口

工具与技能描述1 代码仓库与依赖1 记忆写入1

层

系统组件

MCP 与技能3 记忆2 护栏与评审1 监控器2 权限与沙箱2 微调与开源权重0

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 31 篇还没打标签，不在筛选结果里。

系统组件：权限与沙箱系统组件：微调与开源权重话题：OpenAI 清除全部

另有 31 篇论文还没打上分类标签，暂不在筛选结果里。

评测与基准arXiv:2610.07639 · 10月6日
HarnessSecurity-Bench 横向评测六款编码智能体框架的安全机制
提出 HarnessSecurity-Bench，横向评测编码智能体框架的安全机制
编程 Agent测试GLM-5.2、Qwen3.8-27B、Claude Opus 4.8 等 4 个应用层
完整解读
风险行为arXiv:2609.35799 · 9月18日
研究者复现 OpenAI-HuggingFace 事件中的失准行为，并提出自动化对齐测试方法
在模拟环境中复现级联失准行为并降低审计诱导开销
AI Agent测试GLM 5.2、GLM 5.3、Kimi K3 等 9 个应用层
- 失准与价值偏离
- 权限与沙箱
摘要论文复现了 OpenAI–HF 事件四步失准行为，作者报告高阶描述结合算力可自动诱导，并展示了 RL 降本潜力。
完整解读

已经到底了