10月8日 · 周四

Agent 安全 · 论文

找到 2 篇

筛选1

攻击类型

提示注入1 投毒与后门1

模型自身风险

Agent 危险操作1

防御类型

检测与过滤1 指令与数据隔离1 权限与审批1

影响

越权操作1 数据与隐私泄露1

系统形态

模型与 API1 LLM 应用1 AI Agent3 编程 Agent2

攻击面/入口

工具与技能描述1 分发渠道1

层

系统组件

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 386 篇还没打标签，不在筛选结果里。

系统形态：编程 Agent 话题：Agent 安全清除全部

另有 386 篇论文还没打上分类标签，暂不在筛选结果里。

分析与理论arXiv:2610.04375 · 10月3日
论文揭示 LLM Agent 工具调用在执行路径中被改写，并提出 IntAct 修复方案
提出 IEC 协议与 IntAct，定位并修复工具调用执行路径的静默篡改
编程 Agent测试qwen3-coder-plus、Qwen2.5-Coder-32B、Qwen2.5-72B 等 4 个应用层
摘要论文界定工具调用在执行路径中的意图偏离问题，提出无执行归因协议与跳级修复，为智能体工程提供评测与设计准则。
完整解读
分析与理论arXiv:2610.06001 · 10月5日
AgentSpy：在系统调用层观测 AI Agent 行为并检测技能注入攻击
提出 AgentSpy，在系统调用层观测编程智能体并检测技能注入攻击
编程 Agent测试gpt-5.6-terra、deepseek-v4-flash、glm-5.3-flash 等 4 个应用层
摘要提出了系统级智能体监控框架 AgentSpy，揭示出通过测试背后的非预期行为与注入风险。
本研究提出了面向 AI 智能体的系统级外部监控与行为分析框架 AgentSpy。
完整解读

已经到底了