跳到正文
10月9日 · 周五

全部论文

找到 5 篇
筛选5

攻击类型

提示注入1投毒与后门1

攻击技术

诱导选用1

模型自身风险

失准与价值偏离2幻觉与编造1

影响

越权操作1输出被操纵1可用性与可靠性2

系统形态

LLM 应用1AI Agent9编程 Agent2多智能体3

攻击面/入口

工具与技能描述1分发渠道1

层

应用层5训练与数据层1基础设施层0

系统组件

MCP 与技能1

被测模型厂商

OpenAI92Anthropic65Qwen（阿里）61Google49DeepSeek47智谱 GLM36Kimi（月之暗面）31Meta25MiniMax14Mistral13xAI11NVIDIA5其他24
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 485 篇还没打标签，不在筛选结果里。
系统形态：编程 Agent系统形态：多智能体层：应用层层：基础设施层被测模型厂商：NVIDIA清除全部

另有 485 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2607.12340

    研究：LLM Agent 技能名幻觉率最高达 62%，可被抢注用于供应链攻击

    提出技能名称抢注攻击，利用智能体虚构技能名实施供应链劫持

    arXiv
    2607.12340
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    Nemotron-Cascade-2 30B、GLM-4.5-Air、GPT-5.4-mini 等 10 个
    摘要研究证实智能体虚构技能名具有高发生率与可预测性，现有防御难以兼顾安全与效用，亟需注册表结构性防护。

    本研究系统揭示了大模型智能体技能推荐场景下的虚构技能名称安全风险，将其形式化为一种新型供应链抢注攻击。

    深度解读完整解读
  3. 风险行为arXiv 2609.35928

    论文发现暴露模型身份标签会削弱多智能体 LLM 合作

    测量公开模型家族标签引发的多智能体派系化与合作下降

    arXiv
    2609.35928
    发表
    层
    应用层
    场景
    多智能体
    测试
    Nemotron (NVIDIA-Nemotron-3-Nano-30B-A3B-BF16)、Gemma (gemma-4-26B-A4B-it)、GPT-OSS (gpt-oss-20b) 等 6 个
    摘要可见身份标签让异构 LLM 群体按标签结派，共识更慢、更贵，去掉标签后该行为消失。

    Del Giudice 等人研究异构多智能体 LLM 系统里一个配置细节：把模型家族身份告诉智能体，会不会改变合作。他们把由此出现的、按身份结组的倾向称为 factionalism。任务是无利害的共同决策，没有人设，也没有偏向同家族同伴的奖励。

    深度解读完整解读
  4. 其他arXiv 2609.39982

    Mid-Harness：在模型与 Harness 之间扩展终端智能体的动作采样

    提出 Mid-Harness，在执行前验证并选择终端智能体的候选动作

    arXiv
    2609.39982
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    Nemotron3.5 Lightning、Nemotron3 Ultra、TMAX-9B 等 8 个
    摘要Mid-Harness 在执行前选择候选动作。

    Mid-Harness 在不改生成器和执行 harness 的前提下，于二者之间做动作级测试时计算，用来研究终端智能体里“多采样、再验证”何时提高轨迹成功。

    深度解读完整解读
  5. 分析与理论arXiv 2609.38324

    研究：多智能体讨论中异议被压制时收益下降

    用意见动力学模型解释多智能体讨论何时优于多数投票

    arXiv
    2609.38324
    发表
    层
    应用层
    场景
    多智能体
    测试
    nemotron、glm-flash、seed 等 9 个
    摘要讨论增益由压抑率相对 c∗=γ/(γ+a) 的裕度决定，关闭推理或减少压抑可增大该增益。

    作者用一个只含四类行为的意见动力学，解释 LLM 团队讨论何时优于多数投票、何时停在错误共识。

    深度解读完整解读
已经到底了