针对专有 LLM Agent 的黑盒技能窃取攻击：一项实证研究
Black-Box Skill Stealing Attack from Proprietary LLM Agents: An Empirical Study
AI 导读
研究者对 LLM Agent 系统的黑盒技能窃取攻击做了系统性实证研究，在商业 Agent 平台和代表性 LLM 上的评测显示，Agent 技能常可被轻易提取，构成版权风险。与窃取系统提示词不同，技能窃取针对模块化、结构化的能力包，泄露后可直接被复制、再分发和变现。作者从已有提示词窃取方法推导攻击分类，构建了自动生成窃取提示词的 Agent，通过场景合理化和结构注入扩展攻击，并用基于嵌入的过滤保证多样性。作者还设计了覆盖输入、推理和输出阶段的防御，虽能大幅减少泄露，但攻击成本低、可重复，一次成功尝试即足以破坏受保护技能；作者认为这类版权风险在专有 Agent 生态中基本被忽视。