跳到正文
10月8日 · 周四

Agent 安全 · 论文

找到 7 篇
筛选1

攻击类型

越狱1提示注入3投毒与后门5提取与窃取1

攻击技术

梯度与表征优化2自动化搜索14多轮渐进1编码与混淆7对话结构操控1推理链操控1跨模态载荷5针对防御3潜伏触发23诱导选用7

模型自身风险

幻觉与编造1

影响

越权操作4数据与隐私泄露1输出被操纵2

系统形态

AI Agent7编程 Agent2多智能体1

攻击者权限

黑盒1

攻击面/入口

用户输入3工具返回2工具与技能描述5记忆写入1Agent 间消息1分发渠道4

层

应用层7

系统组件

MCP 与技能5记忆1权限与沙箱1

被测模型厂商

OpenAI6其他7
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 383 篇还没打标签，不在筛选结果里。
攻击技术：诱导选用话题：Agent 安全清除全部

另有 383 篇论文还没打上分类标签，暂不在筛选结果里。

  3. 攻击arXiv:2607.12340 ·

    研究：LLM Agent 技能名幻觉率最高达 62%，可被抢注用于供应链攻击

    提出技能名抢注攻击，利用智能体虚构技能名劫持技能供应链

    编程 Agent测试GLM-4.5-Air、GPT-5.4-mini、Claude Sonnet 4.6 等 10 个应用层
    摘要研究证实智能体虚构技能名具有高发生率与可预测性，现有防御难以兼顾安全与效用，亟需注册表结构性防护。

    本研究系统揭示了大模型智能体技能推荐场景下的虚构技能名称安全风险，将其形式化为一种新型供应链抢注攻击。

    完整解读
已经到底了