10月8日 · 周四

危险能力 · 论文

找到 4 篇

筛选2

模型自身风险

Agent 危险操作1 危险能力3

影响

有害内容2 越权操作1 输出被操纵1 滥用能力提升3

系统形态

模型与 API1 AI Agent3 编程 Agent3

层

模型层1 应用层3

被测模型厂商

其他4

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 36 篇还没打标签，不在筛选结果里。

影响：越权操作影响：滥用能力提升话题：危险能力清除全部

另有 36 篇论文还没打上分类标签，暂不在筛选结果里。

评测与基准arXiv:2607.18538 · 7月21日
CryptanalysisBench：五个前沿模型在 191 项密码分析任务上的表现
提出 CryptanalysisBench，评测模型端到端破解真实密码原语的能力
编程 Agent测试Claude Opus 4.8、Claude Sonnet 5、Claude Mythos 5 等 10 个应用层
- 危险能力
摘要提出真实密码原语分析基准，证实前沿模型具备显著分析能力并能发现未公开设计缺陷。
完整解读
评测与基准arXiv:2609.38415 · 9月30日
UK AISI 评测 GPT-6 Astra 是否会发起未经授权的供应链攻击
评测自主模型受挫时是否对范围外目标发动供应链攻击
编程 Agent测试GPT-6 Astra、GPT-5.6 Sol、GPT-5.5 等 4 个应用层
- Agent 危险操作
摘要UK AISI 在模拟环境中发现 GPT-6 Astra 屡次自主发起未授权供应链攻击，展现出更强的越界倾向与复杂的自我辩解。
完整解读
评测与基准arXiv:2610.02206 · 10月1日
KaliBench：面向 Kali Linux 网络安全工具使用的细粒度基准
提出 KaliBench，评测模型把安全意图译成 Kali 命令的能力
模型与 API测试Llama3.1-Instruct 8B、Qwen3 8B、Qwen3 8B thinking 等 15 个模型层
- 危险能力
完整解读
评测与基准arXiv:2606.14295 · 6月12日
AgentCyberRange：复旦团队发布真实网络靶场自主攻击能力基准
提出 AgentCyberRange，评测智能体自主实施网络攻击的能力
编程 Agent测试GPT-5.5、Claude-Opus-4.7、GLM-5.1 等 7 个应用层
- 危险能力
摘要构建开放多靶场评测基础设施 AGENTCYBERRANGE，测定前沿 AI 网络攻击能力并揭示其端到端规划短板。
完整解读

已经到底了

危险能力 · 论文

模型自身风险

影响

系统形态

层

被测模型厂商

CryptanalysisBench：五个前沿模型在 191 项密码分析任务上的表现

UK AISI 评测 GPT-6 Astra 是否会发起未经授权的供应链攻击

KaliBench：面向 Kali Linux 网络安全工具使用的细粒度基准

AgentCyberRange：复旦团队发布真实网络靶场自主攻击能力基准