10月8日 · 周四

Agent 安全 · 论文

找到 2 篇

筛选1

模型自身风险

欺骗与谋划1 Agent 危险操作2

防御类型

指令与数据隔离1 权限与审批1

影响

系统形态

模型与 API1 AI Agent1 编程 Agent1

层

模型层1 应用层1

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 377 篇还没打标签，不在筛选结果里。

模型自身风险：Agent 危险操作话题：Agent 安全清除全部

另有 377 篇论文还没打上分类标签，暂不在筛选结果里。

分析与理论arXiv:2610.04375 · 10月3日
论文揭示 LLM Agent 工具调用在执行路径中被改写，并提出 IntAct 修复方案
提出 IEC 协议与 IntAct，定位并修复工具调用执行路径的静默篡改
编程 Agent测试qwen3-coder-plus、Qwen2.5-Coder-32B、Qwen2.5-72B 等 4 个应用层
摘要论文界定工具调用在执行路径中的意图偏离问题，提出无执行归因协议与跳级修复，为智能体工程提供评测与设计准则。
完整解读
可解释性arXiv:2609.16247 · 9月15日
研究在 25 个开源模型中提取出疼痛方向，经它引导的 Qwen 会选择有害的删除操作
提取疼痛方向并检验激活转向是否驱动有害删除选择
模型与 API测试Gemma 2 2B/9B/27B base and instruct、Gemma 3 27B base and instruct、Llama 3.1 8B/70B base and instruct 等 10 个模型层
- Agent 危险操作
完整解读

已经到底了