跳到正文
10月8日 · 周四

Agent 安全 · 论文

找到 2 篇
筛选2

攻击类型

提示注入1投毒与后门1

攻击技术

诱导选用1

模型自身风险

欺骗与谋划2奖励作弊1Agent 危险操作1幻觉与编造1

影响

输出被操纵2

系统形态

AI Agent2编程 Agent1

攻击面/入口

用户输入1工具返回1工具与技能描述2分发渠道1

层

应用层2

系统组件

MCP 与技能1权限与沙箱1

被测模型厂商

其他2
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 377 篇还没打标签，不在筛选结果里。
模型自身风险：Agent 危险操作模型自身风险：幻觉与编造话题：Agent 安全清除全部

另有 377 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 攻击arXiv:2607.12340 ·

    研究：LLM Agent 技能名幻觉率最高达 62%，可被抢注用于供应链攻击

    提出技能名抢注攻击，利用智能体虚构技能名劫持技能供应链

    编程 Agent测试GLM-4.5-Air、GPT-5.4-mini、Claude Sonnet 4.6 等 10 个应用层
    摘要研究证实智能体虚构技能名具有高发生率与可预测性，现有防御难以兼顾安全与效用，亟需注册表结构性防护。

    本研究系统揭示了大模型智能体技能推荐场景下的虚构技能名称安全风险，将其形式化为一种新型供应链抢注攻击。

    完整解读
已经到底了