跳到正文
原文

被投毒的技能:越狱通过 Agent Markdown 文件传播

Poisoned Skills: Propagating Jailbreaks Through Agent Markdown Files

arXiv:越狱、提示注入、投毒与防御· arXiv:2610.37738· Kashyap R Manjusha, Murali Emani·本站收录· 14 天前· 原文发表攻击
AI 导读

研究者展示了一种通过 Agent Markdown 技能文件传播越狱的攻击,七款开源权重模型的平均攻击成功率从 0.5% 升至 45%,个别模型达 68.9%。实验构建了一个系统提示词由用户提供的 Markdown 文件组装的 LangChain 问答 Agent,载荷结合人设操纵与基于 GPTFUZZER 的攻击,并用 270 个跨九类危害的违禁问题评测。良性系统提示下模型几乎全部拒答,平均攻击成功率仅 0.5%;注入技能文件后升至 45%。两种混淆策略,基于零宽字符的隐形载荷与基于字素到音素转换的语音载荷,均未超过明文注入,语音变体反将平均成功率降到 30%。作者指出 Markdown 技能文件是尚未被充分研究的 Agent 攻击面,对配置型越狱的脆弱性更多取决于底层模型而非混淆技术。

相关热点

3 个事件 · 2 条新闻提到

  • 这件事的论文

    Markdown技能文件可传播越狱攻击

    研究显示向智能体技能文件注入越狱载荷后,七款开源权重模型平均攻击成功率从0.5%升至45%,个别达68.9%。

提到这篇论文的新闻

Adversa AI 发布 11 月智能体技能安全资源汇编

周报:预训练投毒可植入智能体后门

阅读原文arxiv.org