10月8日 · 周四

Agent 安全 · 论文

找到 2 篇

筛选2

攻击类型

攻击技术

编码与混淆1 对话结构操控1 推理链操控1

模型自身风险

欺骗与谋划1

影响

数据与隐私泄露2

系统形态

AI Agent2 多智能体1

攻击面/入口

用户输入1 文档与消息1 工具返回1 Agent 间消息1

层

系统组件

MCP 与技能18 记忆9 RAG2 护栏与评审4 监控器2 推理链1 权限与沙箱10 微调与开源权重3 视觉4 多模态4

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 383 篇还没打标签，不在筛选结果里。

系统组件：监控器系统组件：推理链话题：Agent 安全清除全部

另有 383 篇论文还没打上分类标签，暂不在筛选结果里。

攻击arXiv:2609.27542 · 9月23日
研究者用控制 token 注入删除 gpt-oss-20b 推理链并绕过思维链监控
提出控制标记注入，清空工具智能体推理链以绕过思维链监控
AI Agent测试openai/gpt-oss-20b、google/gemma-4-26B-A4B-it、deepseek-ai/DeepSeek-R1-Distill-Qwen-7B 等 4 个应用层
摘要论文阐明控制标记注入可抑制 CoT 使监控失效并促成拒绝绕过，且工具执行受解析器宽容度影响。
完整解读
攻击arXiv:2609.28900 · 9月24日
Codetta：面向独立部署 LLM 智能体的高容量无密钥隐蔽串谋协议
提出 CODETTA 隐写框架，使多智能体在审计下隐蔽传载荷
多智能体测试Qwen2.5-7B、Llama-3.1-8B、Ministral-3-8B 等 8 个应用层
摘要提出非对称免密钥隐写框架 CODETTA，实现高容量不可区分通信，指出被动审计面临失效风险。
完整解读

已经到底了