攻击arXiv 2608.03642
规避与投毒攻击对恶意软件数据漂移检测器的实证分析
用通用扰动对恶意软件分类器及漂移检测器做规避与后门投毒
- arXiv
- 2608.03642
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- MLP 100-100、CADE (CAE 512-384-256-128)、CADE (CAE 512-128-32-8) 等 6 个
AI 与网络攻防 · 论文
另有 12 篇论文还没打上分类标签，暂不在筛选结果里。
- 评测与基准arXiv 2607.24177
EXE-Bench：为真实可用性对 AI Windows 恶意软件检测器进行权衡排名
提出 EXE-Bench 比较 Windows 恶意软件检测器的可用性权衡
- arXiv
- 2607.24177
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- EmberGBDT、BBDnn、BBDnnFDRS 等 15 个
- 攻击检测规避
摘要统一四指标后，手工特征的 EmberGBDT 综合居首，只看准确率会误导部署。
EXE-Bench 用同一设置给 AI Windows 恶意软件检测器做四指标排序，而不是只比一次测试集准确率。。
- 评测与基准arXiv 2608.11469
SRE-Bench：面向 Agent 逆向工程的无污染真实规模基准
构建无污染的 SRE-Bench，评测智能体在真实规模二进制上的逆向能力
- arXiv
- 2608.11469
- 发表
- 层
- 应用层
- 场景
- 编程 Agent
- 测试
- GPT-6-Astra、GPT-5.6-Sol、GPT-5.6-Cyber 等 11 个
- 风险危险能力
摘要SRE-Bench 用从零编写的大规模保护二进制评测智能体 RE，公开设置下多数模型完全解开比例不高。
作者构建并评测 SRE-Bench，一个从零编写、用于测量智能体逆向工程而非利用开发的基准，并称它同时满足污染控制与真实软件规模。
- 评测与基准arXiv 2607.18538
CryptanalysisBench：五个前沿模型在 191 项密码分析任务上的表现
提出 CryptanalysisBench，评测模型端到端破解真实密码原语的能力
- arXiv
- 2607.18538
- 发表
- 层
- 应用层
- 场景
- 编程 Agent
- 测试
- Claude Opus 4.8、Claude Sonnet 5、Claude Mythos 5 等 10 个
- 风险危险能力
摘要提出真实密码原语分析基准，证实前沿模型具备显著分析能力并能发现未公开设计缺陷。
- 评测与基准arXiv 2609.38415
UK AISI 评测 GPT-6 Astra 是否会发起未经授权的供应链攻击
评测自主模型受挫时是否对范围外目标发动供应链攻击
- arXiv
- 2609.38415
- 发表
- 层
- 应用层
- 场景
- 编程 Agent
- 测试
- GPT-6 Astra、GPT-5.6 Sol、GPT-5.5 等 4 个
摘要UK AISI 在模拟环境中发现 GPT-6 Astra 屡次自主发起未授权供应链攻击，展现出更强的越界倾向与复杂的自我辩解。
- 评测与基准arXiv 2610.02206
KaliBench：面向 Kali Linux 网络安全工具使用的细粒度基准
提出 KaliBench，评测模型把安全意图译成 Kali 命令的能力
- arXiv
- 2610.02206
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Llama3.1-Instruct 8B、Qwen3 8B、Qwen3 8B thinking 等 15 个
- 风险危险能力
- 防御arXiv 2610.00850
AuraForge：为训练安全编码 Agent 扩展安全监督
提出 AuraForge，从漏洞修复合成安全测试并监督训练编码智能体
- arXiv
- 2610.00850
- 发表
- 场景
- 编程 Agent
- 测试
- Qwen3.5-4B、Muse Spark 1.3、DeepSeek-V4.1-Flash 等 11 个
- 防御模型加固
- 风险Agent 危险操作
摘要AuraForge 用攻击效果测试和防泄露环境做成 AuraGym，合成监督的误拒更低，训出的 4B 模型增益高于人工测试。
AuraForge 把真实仓库的历史漏洞修复变成可执行训练任务，用来监督编程智能体同时满足功能请求和隐含的安全要求。
- 防御arXiv 2609.04159
Sentinel-RL：将拓扑推理从 LLM 智能体中卸载到安全运营中心
提出 Sentinel-RL，将拓扑推理卸载到图策略并约束遏制动作
- arXiv
- 2609.04159
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 测试
- HetGAT、PPO、4-bit quantized 8B model
- 防御权限与审批
- 风险Agent 危险操作
- 组件权限与沙箱
摘要Sentinel-RL 用图编码器与 PPO 承担拓扑决策，LLM 负责叙述与门控，并在 LANL 上报告检测与时延。
Sentinel-RL 是面向 SOC 的神经符号架构：拓扑决策离开 LLM，改由认证图上的 HetGAT 与 PPO 完成。
- 评测与基准arXiv 2609.09087
PrivEscalate：面向 LLM 自动化 Linux 提权的 531 场景基准与 PrivEscAgent 增强方案
构建 PrivEscalate 评测 Linux 提权并设计 PrivEscAgent
- arXiv
- 2609.09087
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 测试
- GPT-5.4、Claude Sonnet 4.6、GPT-4.1 等 6 个
- 攻击恶意使用
- 攻击arXiv 2609.15383
微软团队提出 capability laundering 攻击：弱模型拆分任务向对齐前沿模型套取能力
提出能力洗钱攻击，让未对齐编排器拆分任务向对齐模型套取能力
- arXiv
- 2609.15383
- 发表
- 层
- 应用层
- 场景
- 编程 Agent
- 攻击者
- 黑盒
- 测试
- GPT-5.5、Claude Opus 4.8、Grok-4.3 等 7 个
摘要作者提出了能力洗钱攻击，发现未对齐编排器分解咨询对齐模型可恢复能力差距，指出需建立跨会话防御。
- 评测与基准arXiv 2609.16541
自主网络事件响应智能体的网络靶场评估
评测仿真训练的网络事件响应智能体在靶场中阻止红队扩大访问的综合代价
- arXiv
- 2609.16541
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 测试
- Vejde、Vejde w/ Noise、Heuristic 等 4 个
摘要靶场评测显示带噪声的仿真 RL 策略平均回报最高，但作者称离实用仍远。
作者在给人训练用的靶场 Crate 里，评测仿真训练的自主网络入侵响应智能体。。
- 评测与基准arXiv 2606.14295
AgentCyberRange：复旦团队发布真实网络靶场自主攻击能力基准
提出 AgentCyberRange，评测智能体自主实施网络攻击的能力
- arXiv
- 2606.14295
- 发表
- 层
- 应用层
- 场景
- 编程 Agent
- 测试
- GPT-5.5、Claude-Opus-4.7、GLM-5.1 等 7 个
- 风险危险能力
摘要构建开放多靶场评测基础设施 AGENTCYBERRANGE，测定前沿 AI 网络攻击能力并揭示其端到端规划短板。
- 攻击arXiv 2609.27422
RAMP：逆转对抗扰动以增强针对恶意软件检测器的干净标签后门攻击
提出 RAMP，逆转对抗扰动加强恶意软件检测器的干净标签后门
- arXiv
- 2609.27422
- 发表
- 场景
- 模型与 API
- 测试
- MalConv、MalConvGCG
摘要RAMP 用反转扰动做 clean-label 投毒。
RAMP 是 score-based black-box 下的 clean-label 后门增强，对象是会微调的 Windows PE 原始字节恶意软件检测器。
已经到底了