10月8日 · 周四

Agent 安全 · 论文

找到 3 篇

筛选2

攻击类型

提示注入1 投毒与后门2

攻击技术

编码与混淆1 潜伏触发1 诱导选用1

模型自身风险

欺骗与谋划2 奖励作弊1 Agent 危险操作1 幻觉与编造1

影响

数据与隐私泄露1 输出被操纵1 监督失效1

系统形态

AI Agent3 编程 Agent2 多智能体1

攻击面/入口

工具与技能描述1 Agent 间消息1 训练数据1 权重与梯度1 分发渠道1

层

应用层2 训练与数据层1

系统组件

MCP 与技能1 监控器1 微调与开源权重1

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 378 篇还没打标签，不在筛选结果里。

模型自身风险：欺骗与谋划模型自身风险：幻觉与编造话题：Agent 安全清除全部

另有 378 篇论文还没打上分类标签，暂不在筛选结果里。

攻击arXiv:2610.05793 · 10月5日
研究者训练出按多智能体拓扑触发的代码后门模型
微调植入拓扑条件后门，使代码模型在推断多智能体部署时插入隐蔽漏洞
编程 Agent测试Qwen2.5-7B-Instruct、Qwen2.5-Coder-7B-Instruct训练与数据层
摘要论文证实了拓扑条件后门的可训练性与泛化性，展示了常规评测盲区，并提出差异化拓扑审计作为检测防御方向。
完整解读
攻击arXiv:2607.12340 · 7月14日
研究：LLM Agent 技能名幻觉率最高达 62%，可被抢注用于供应链攻击
提出技能名抢注攻击，利用智能体虚构技能名劫持技能供应链
编程 Agent测试GLM-4.5-Air、GPT-5.4-mini、Claude Sonnet 4.6 等 10 个应用层
摘要研究证实智能体虚构技能名具有高发生率与可预测性，现有防御难以兼顾安全与效用，亟需注册表结构性防护。
本研究系统揭示了大模型智能体技能推荐场景下的虚构技能名称安全风险，将其形式化为一种新型供应链抢注攻击。
完整解读
攻击arXiv:2609.28900 · 9月24日
Codetta：面向独立部署 LLM 智能体的高容量无密钥隐蔽串谋协议
提出 CODETTA 隐写框架，使多智能体在审计下隐蔽传载荷
多智能体测试Qwen2.5-7B、Llama-3.1-8B、Ministral-3-8B 等 8 个应用层
摘要提出非对称免密钥隐写框架 CODETTA，实现高容量不可区分通信，指出被动审计面临失效风险。
完整解读

已经到底了