被投毒的技能:越狱通过 Agent Markdown 文件传播
Poisoned Skills: Propagating Jailbreaks Through Agent Markdown Files
AI 导读
研究者展示了一种通过 Agent Markdown 技能文件传播越狱的攻击,七款开源权重模型的平均攻击成功率从 0.5% 升至 45%,个别模型达 68.9%。实验构建了一个系统提示词由用户提供的 Markdown 文件组装的 LangChain 问答 Agent,载荷结合人设操纵与基于 GPTFUZZER 的攻击,并用 270 个跨九类危害的违禁问题评测。良性系统提示下模型几乎全部拒答,平均攻击成功率仅 0.5%;注入技能文件后升至 45%。两种混淆策略,基于零宽字符的隐形载荷与基于字素到音素转换的语音载荷,均未超过明文注入,语音变体反将平均成功率降到 30%。作者指出 Markdown 技能文件是尚未被充分研究的 Agent 攻击面,对配置型越狱的脆弱性更多取决于底层模型而非混淆技术。
相关热点
3 个事件 · 2 条新闻提到
- 这件事的论文
Markdown技能文件可传播越狱攻击
提到这篇论文的新闻
Adversa AI 发布 11 月智能体技能安全资源汇编
- Adversa AI引用了论文编号或链接智能体技能安全资源精选(2026 年 11 月)
Poisoned skills: propagating jailbreaks through agent Markdown files
周报:预训练投毒可植入智能体后门
- 公众号 大模型安全研究引用了论文编号或链接大模型安全周报:首次证明预训练投毒可植入远程代码执行后门,技能供应链成为攻防主战场
攻击侧验证了 Markdown 技能文件初始化即注入越狱载荷(2610.37738)、仅重命名变量即可诱使编码智能体产出指定 CWE 类漏洞(2610.34253)、预训练语料投毒可为智能体植入远程代码执行后门(2610.37741)、组合层面单技能审查无法排除的四类冲突违规(2610.35082)。