10月8日 · 周四

Agent 安全 · 论文

找到 2 篇

筛选2

攻击类型

模型自身风险

Agent 危险操作1

防御类型

模型加固0 检测与过滤3 指令与数据隔离1 权限与审批2 监控与审计6

影响

系统形态

攻击面/入口

层

系统组件

权限与沙箱2

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 377 篇还没打标签，不在筛选结果里。

防御类型：模型加固防御类型：权限与审批话题：Agent 安全清除全部

另有 377 篇论文还没打上分类标签，暂不在筛选结果里。

评测与基准arXiv:2609.22076 · 9月18日
APort Vault 发布：用 4,371 条人工攻击评测 AI Agent 支付授权
提出 APort Vault，评测支付智能体授权层对越权转账的拦截
AI Agent测试Claude Fable 5.1、Claude Sonnet 5、Claude Haiku 4.5 等 14 个应用层
完整解读
防御arXiv:2610.02664 · 10月2日
论文提出 GHOST：长程智能体在良性对话中遗忘早期安全约束
提出 STAR-Guard 双层防御缓解长程智能体遗忘安全约束
AI Agent测试GPT-5.5、DeepSeek-V4-Pro、GLM-5.2 等 7 个应用层
摘要揭示 GHOST 跨轮约束遗忘风险，构建 SCARBench 基准并通过 STAR-Guard 双层防御消除违规。
完整解读

已经到底了