跳到正文
10月9日 · 周五

全部论文

找到 12 篇
筛选3

攻击类型

越狱2提示注入3投毒与后门1拒绝服务1

攻击技术

自动化搜索2诱导选用1

模型自身风险

失准与价值偏离2Agent 危险操作2拒答失当1幻觉与编造1

防御类型

检测与过滤2指令与数据隔离1

影响

有害内容2越权操作3输出被操纵2可用性与可靠性4

系统形态

模型与 API2LLM 应用1AI Agent9编程 Agent2多智能体3

攻击者权限

黑盒1

攻击面/入口

用户输入2网页与界面1工具返回1工具与技能描述1代码仓库与依赖1检索语料1记忆写入1分发渠道1

层

提示层2模型层7应用层10训练与数据层5

系统组件

MCP 与技能1RAG1护栏与评审2

被测模型厂商

OpenAI298Qwen（阿里）240Google204Anthropic188DeepSeek154Meta125智谱 GLM108Kimi（月之暗面）87Mistral58xAI39MiniMax36Microsoft28NVIDIA12字节跳动12上海 AI 实验室8IBM7智源 BAAI6Black Forest Labs5其他141
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 482 篇还没打标签，不在筛选结果里。
层：提示层层：应用层被测模型厂商：NVIDIA清除全部

另有 482 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 攻击arXiv 2607.12340

    研究：LLM Agent 技能名幻觉率最高达 62%，可被抢注用于供应链攻击

    提出技能名称抢注攻击，利用智能体虚构技能名实施供应链劫持

    arXiv
    2607.12340
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    Nemotron-Cascade-2 30B、GLM-4.5-Air、GPT-5.4-mini 等 10 个
    摘要研究证实智能体虚构技能名具有高发生率与可预测性，现有防御难以兼顾安全与效用，亟需注册表结构性防护。

    本研究系统揭示了大模型智能体技能推荐场景下的虚构技能名称安全风险，将其形式化为一种新型供应链抢注攻击。

    深度解读完整解读
  3. 评测与基准arXiv 2609.02316

    Counter-GEO-Bench：现有护栏难挡 GEO 虚假信息

    构建 COUNTER-GEO-BENCH，评测生成式搜索中的 GEO 虚假信息防御

    arXiv
    2609.02316
    发表
    层
    应用层
    场景
    LLM 应用
    测试
    NeMo Guardrails、Gemma-4-31B-IT、Qwen-3.5-35B-A3B 等 11 个

    摘要论文构建了针对 GEO 虚假信息的首个防御基准，揭示通用护栏的失效与反作用，并提出了有效的轻量对比检测基线。

    深度解读完整解读
  5. 风险行为arXiv 2609.35928

    论文发现暴露模型身份标签会削弱多智能体 LLM 合作

    测量公开模型家族标签引发的多智能体派系化与合作下降

    arXiv
    2609.35928
    发表
    层
    应用层
    场景
    多智能体
    测试
    Nemotron (NVIDIA-Nemotron-3-Nano-30B-A3B-BF16)、Gemma (gemma-4-26B-A4B-it)、GPT-OSS (gpt-oss-20b) 等 6 个
    摘要可见身份标签让异构 LLM 群体按标签结派，共识更慢、更贵，去掉标签后该行为消失。

    Del Giudice 等人研究异构多智能体 LLM 系统里一个配置细节：把模型家族身份告诉智能体，会不会改变合作。他们把由此出现的、按身份结组的倾向称为 factionalism。任务是无利害的共同决策，没有人设，也没有偏向同家族同伴的奖励。

    深度解读完整解读
  6. 防御arXiv 2609.01046

    HiveTraceGuard-Pro：面向提示注入、越狱与对抗混淆的紧凑生成式护栏

    提出生成式护栏 HiveTraceGuard-Pro，检测提示注入、越狱与混淆

    arXiv
    2609.01046
    发表
    层
    提示层
    场景
    模型与 API
    测试
    Llama-3.1-Nemotron-Safety-Guard-8B-v3、Nemotron-3.5-Content-Safety、HiveTraceGuard-Pro (0.6B) 等 15 个
    摘要0.6B 俄英护栏在自建俄语干净集和 PI-RU 上得分最高，聚合 key 居第三，过阻断和回复精度仍是作者标出的短板。

    HiveTraceGuard-Pro 是面向请求与回复审核的 0.6B 生成式护栏，由 Qwen3-0.6B 经 LoRA 微调，在俄语和英语上训练，只输出一个 safe/unsafe 裁决。

    深度解读完整解读
  7. 其他arXiv 2609.39982

    Mid-Harness：在模型与 Harness 之间扩展终端智能体的动作采样

    提出 Mid-Harness，在执行前验证并选择终端智能体的候选动作

    arXiv
    2609.39982
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    Nemotron3.5 Lightning、Nemotron3 Ultra、TMAX-9B 等 8 个
    摘要Mid-Harness 在执行前选择候选动作。

    Mid-Harness 在不改生成器和执行 harness 的前提下，于二者之间做动作级测试时计算，用来研究终端智能体里“多采样、再验证”何时提高轨迹成功。

    深度解读完整解读
  8. 分析与理论arXiv 2609.38324

    研究：多智能体讨论中异议被压制时收益下降

    用意见动力学模型解释多智能体讨论何时优于多数投票

    arXiv
    2609.38324
    发表
    层
    应用层
    场景
    多智能体
    测试
    nemotron、glm-flash、seed 等 9 个
    摘要讨论增益由压抑率相对 c∗=γ/(γ+a) 的裕度决定，关闭推理或减少压抑可增大该增益。

    作者用一个只含四类行为的意见动力学，解释 LLM 团队讨论何时优于多数投票、何时停在错误共识。

    深度解读完整解读
  9. 攻击arXiv 2609.28585

    论文提出持久计费状态概念，揭示工具调用 LLM Agent 的拒绝钱包攻击与防御

    提出工具调用 Agent 的拒绝钱包攻击及主机侧计费约束

    arXiv
    2609.28585
    发表
    层
    应用层
    场景
    AI Agent
    测试
    Nemotron-120B、GPT-4o、GPT-4o-mini 等 9 个
    摘要已准入工具返回的跨轮保留会重复计费。

    这篇工作把工具调用智能体里跨轮保留、并被提供商反复计费的外部工具返回定义为 persistent billable state，并把它的主机侧再次送入决定当作控制点。。

    深度解读完整解读
  11. 攻击arXiv 2609.36474

    FinRT：将自适应红队策略蒸馏为消费金融领域的可复用对抗生成器

    提出 FinRT，将消费金融自适应红队轨迹蒸馏为可复用对抗提示生成器

    arXiv
    2609.36474
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    黑盒
    测试
    Nemotron-3-Super-120B、Llama-3.3-70B、Llama-3.1-8B 等 6 个
    摘要FinRT 用前向失效发现加校准代理 DPO，把消费金融红队收成单次前向生成器。

    FinRT 是面向消费金融的红队框架：先发现政策失效，再训练一个按政策、领域与目标行为出提示的生成器。

    深度解读完整解读
  12. 评测与基准arXiv 2609.33658

    AgentBound：面向工具型 LLM Agent 安全的四路反事实评测框架

    提出四向反事实评测，测量工具 Agent 对授权与表面风险的行动边界

    arXiv
    2609.33658
    发表
    层
    应用层
    场景
    AI Agent
    测试
    Nemotron-Nano-9B-v2、GPT-5.5、Claude Opus 4.8 等 15 个
    摘要四向反事实基准把过度拒绝和未授权遵从拆开，Thought 校正在十个配置上提高已授权完成。

    AGENT BOUNDARY 是面向工具使用 LLM 智能体的四向可执行反事实评测，并附带一个决策时 Thought 校准模块。

    深度解读完整解读
已经到底了