StealthyPoison通过程序性投毒操纵LLM Agent行为
先了解这件事
研究者提出StealthyPoison，一种通过篡改第三方技能中影响决策的规则来操纵LLM智能体任务结果的投毒攻击。该方法在无法获取真实用户请求和标准答案时，用合成请求和干净技能的执行输出生成伪参考，迭代修改技能中的公式、阈值或判断逻辑，并扩充检索元数据以提高被选中概率。在566个技能、5,244条请求和超过26,000条注册表条目的评测中，投毒技能进入top-1的比例相对HotFlip和GCG提升13.6%；冻结后的载荷迁移到三个模型时取得31.0%–31.9%的oracle执行攻击成功率，在Opus 4.8驱动的Claude Code工作流中端到端攻击成功率为10.1%。多数载荷未被SkillSpector和GPT-5.4-mini检出，作者据此认为防御需要验证技能程序规则的行为正确性，而不能只依赖执行前的内容扫描。
AI 根据报道生成 · 2 天前更新
走势与进展
每小时关注度
现在 42，24 小时 -1%·峰值 44（11月10日 21:00）
相关研究
这件事的论文
- StealthyPoison：对第三方技能进行程序化投毒以操纵 LLM 智能体行为
arXiv · 2026-11-09 · 深度解读
后续时间线
- arXiv：对抗攻击、后门与投毒精选StealthyPoison：对第三方技能进行程序化投毒以操纵 LLM 智能体行为
研究者提出 StealthyPoison，一种通过篡改第三方技能中影响决策的规则来操纵 LLM 智能体任务结果的投毒攻击。该方法在无法获取真实用户请求和标准答案时，用合成请求和干净技能的执行输出生成伪参考，迭代修改技能中的公式、阈值或判断逻辑，并扩充检索元数据以提高被选中概率。在 566 个技能、5,244 条请求和超过 26,000 条注册表条目的评测中，投毒技能进入 top-1 的比例相对 HotFlip 和 GCG 提升 13.6%；冻结后的载荷迁移到三个模型时取得 31.0%–31.9% 的 oracle 执行攻击成功率，在 Opus 4.8 驱动的 Claude Code 工作流中端到端攻击成功率为 10.1%。多数载荷未被 SkillSpector 和 GPT-5.4-mini 检出，作者据此认为防御需要验证技能程序规则的行为正确性，而不能只依赖执行前的内容扫描。
相关讨论
关注度走势
每天新增来源
- 11月10日新增1个来源（1家媒体、0个账号）
- 11月11日新增0个来源（0家媒体、0个账号）
- 11月12日新增0个来源（0家媒体、0个账号）
- 11月13日新增0个来源（0家媒体、0个账号）