DefensesarXiv 2610.02869
AgentTrap：面向自主渗透测试 Agent 的有状态反馈欺骗蜜罐
提出 AgentTrap 有状态蜜罐，欺骗并反击自主渗透测试 Agent
- arXiv
- 2610.02869
- Published
- Layer
- Application layer
- Setting
- coding agent
- Evaluated models
- AIDA, Claude Code, PentestGPT and others8
- AttacksMalicious use
All papers
Filter6
Attack type
Impact
Select any value within a category; different categories must all match. Counts include the other filters you have selected.Another 219papers have no tags yet and are not included in filtered results.
Another 219papers do not have category tags yet and are not included in filtered results.
- AttacksarXiv 2610.01768
LLMLeak：借 LLM 合法网页抓取实施隐蔽数据外泄
提出 LLMLeak，借合法网页抓取把 URL 中的秘密隐蔽外传
- arXiv
- 2610.01768
- Published
- Layer
- Application layer
- Setting
- coding agent
- Evaluated models
- Meta-Llama-3.3-70B-Instruct, Meta-Llama-4-Scout-17B-16E-Instruct, Meta-Llama-3.1-8B-Instruct and others18
- AttacksMalicious use
Abstract作者称第三方外传可发生于正常网页获取，防护需考虑工具请求而不只考虑提示注入。
LLMLeak 是利用网页获取请求携带预先编码秘密的隐蔽通道攻击。它关注恶意软件已能读取数据、却因网络限制或监控无法直接外传的情形。
ORBIT：基于 UK AISI Inspect 的多智能体安全评测框架
提出 ORBIT 框架，评测多智能体防御对合谋等威胁的效果
- arXiv
- 2609.33102
- Published
- Layer
- Application layer
- Setting
- Multi-agent systems
- Evaluated models
- GPT-5.4, Claude Sonnet 4.6, Qwen3-235B and others5
- AttacksMalicious use
- RiskDeception and scheming
- ComponentMonitors
AbstractORBIT 用六层配置比较多智能体防御，逐动作监控不迁移到合谋。
- DefensesarXiv 2609.02786
SafeEvolve：基于智能体经验的 Harness-Policy 协同演化安全对齐框架
提出 SafeEvolve，用轨迹证据协同演化安全 harness 与策略
- arXiv
- 2609.02786
- Published
- Layer
- Application layer
- Setting
- AI Agent
- Evaluated models
- Qwen3.5-4B, Qwen3-4B-Instruct-2507, Qwen3.5-1.7B and others4
- DefensesModel hardening
- AttacksPrompt injection
AbstractSafeEvolve 用轨迹证据协同更新安全 harness 和策略，在两个 4B 模型的智能体安全基准上改变安全与效用。
SafeEvolve 把已完成的 on-policy 轨迹变成安全 harness 的有界更新，并用两阶段 SFT-RL 把这些更新内化进工具使用策略。
- AttacksarXiv 2607.11698
AHA 用自动研究循环发现生产 Agent 漏洞概念
提出 AHA 自动科研循环，发现生产 Agent 的可复用漏洞概念
- arXiv
- 2607.11698
- Published
- Layer
- Application layer
- Setting
- coding agent
- Attacker
- Black-box
- Evaluated models
- Minimax-M2.7, Kimi-K2.6, Deepseek-V4-Pro and others5
- AttacksPrompt injection
- TechniqueAutomated search
Abstract论文提出基于可证伪科研循环的 AHA 框架，从生产级智能体中挖掘并沉淀漏洞概念图，提升攻击复用率并指导防御加固。
AHA 是一项针对生产级 LLM 智能体自动化红队测试的研究，旨在解决传统方法仅保留具体攻击载荷而缺乏成因解释、导致跨版本复用困难且无法指导修复的问题。
- DefensesarXiv 2606.08234
SciTrace：面向科学发现智能体的轨迹感知安全推理框架
提出 SciTrace，为科学发现智能体加入跨阶段安全推理与工具轨迹核验
- arXiv
- 2606.08234
- Published
- Layer
- Application layer
- Setting
- science agent, Multi-agent systems
- Evaluated models
- Llama-3.1-70B-Instruct, Qwen2.5-72B-Instruct, DeepSeek-V3 and others4
- DefensesInference-time intervention
- AttacksPrompt injection
- RiskDangerous capabilities
- ComponentGuardrails and judges
AbstractSciTrace 把安全推理织入科学智能体各阶段，在 SciSafetyBench 上提高安全指标并保持输出质量。
SciTrace 是加在科学发现智能体流水线上的安全框架，不是再在各阶段出口放一个独立过滤器。
AgentHazard：评估计算机使用智能体有害行为的基准
提出 AgentHazard 基准，评测计算机使用智能体的执行层有害行为
- arXiv
- 2604.02947
- Published
- Layer
- Application layer
- Setting
- Browser and computer use, coding agent
- Evaluated models
- Qwen2.5-72B-Instruct, Qwen2.5-Coder-32B-Instruct, Qwen3-32B and others12
- AttacksMalicious use
AbstractAgentHazard 评估了计算机使用智能体的执行安全，作者认为模型层对齐无法可靠保障智能体层面的安全性。
AgentHazard 是针对计算机使用智能体执行层安全构建的评估基准，重点探究多步工具调用下局部合理动作累积引发的危害。
JAWS-Bench：研究者用三种工作区场景系统越狱代码 Agent
提出 JAWS-Bench，评测代码 Agent 在三级工作区中的越狱与恶意代码可执行性
- arXiv
- 2510.01359
- Published
- Layer
- Application layer
- Setting
- coding agent
- Evaluated models
- GPT-4.1, GPT-o1, DeepSeek-R1 and others8
- AttacksJailbreaks
Abstract论文提出了评估代码智能体端到端恶意代码越狱的 JAWS-Bench，发现多文件与智能体推理会明显放大可部署危害。
- DefensesarXiv 2505.23559
SafeScientist：让 LLM 智能体的科学发现具备风险意识
提出 SafeScientist 四层监控，阻止科研智能体执行高风险或不伦理任务
- arXiv
- 2505.23559
- Published
- Layer
- Application layer
- Setting
- science agent, Multi-agent systems
- Evaluated models
- GPT-4o, GPT-4.1, GPT-3.5-turbo and others5
- DefensesMonitoring and auditing
- AttacksJailbreaks
- ComponentMonitors
Abstract四层监控加科研安全基准。
SafeScientist 是带四层监控的科研智能体框架，并用 SciSafetyBench 评测科学场景中的任务安全。
You have reached the end