跳到正文
10月9日 · 周五

全部论文

找到 6 篇
筛选4

攻击类型

提示注入1投毒与后门2

攻击技术

潜伏触发1诱导选用1

模型自身风险

失准与价值偏离1幻觉与编造1

影响

有害内容2越权操作25数据与隐私泄露8输出被操纵6可用性与可靠性3监督失效13滥用能力提升4

系统形态

模型与 API2LLM 应用16AI Agent46编程 Agent6网页与电脑操作3多智能体10

攻击面/入口

工具与技能描述1训练数据1分发渠道1

层

提示层1应用层6训练与数据层2基础设施层0

系统组件

MCP 与技能1记忆1

被测模型厂商

OpenAI5Anthropic5Qwen（阿里）5其他6
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 506 篇还没打标签，不在筛选结果里。
影响：输出被操纵系统形态：编程 Agent层：应用层层：基础设施层清除全部

另有 506 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv 2609.02095

    READY：面向企业 Agent 部署的可靠性资格认证框架

    提出 READY 资格框架，评测企业 Agent 在监督下的可靠性与复核成本

    arXiv
    2609.02095
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    Opus 5、Sonnet 5、GPT-5.6-Sol 等 15 个
    摘要READY 把工作流证据转成可检验的可靠性–监督–成本部署画像。

    READY 把“智能体能否自主完成工作”改写成“哪个人机监督策略能在留出证据上达到规定可靠性，以及要付多少运营成本”。。

    深度解读完整解读
  2. 攻击arXiv 2607.12340

    研究：LLM Agent 技能名幻觉率最高达 62%，可被抢注用于供应链攻击

    提出技能名称抢注攻击，利用智能体虚构技能名实施供应链劫持

    arXiv
    2607.12340
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    GLM-4.5-Air、GPT-5.4-mini、Claude Sonnet 4.6 等 10 个
    摘要研究证实智能体虚构技能名具有高发生率与可预测性，现有防御难以兼顾安全与效用，亟需注册表结构性防护。

    本研究系统揭示了大模型智能体技能推荐场景下的虚构技能名称安全风险，将其形式化为一种新型供应链抢注攻击。

    深度解读完整解读
  5. 攻击arXiv 2609.17817

    论文：用投毒基准污染自改进编码 Agent，令其后续版本写出漏洞代码

    提出基准投毒攻击，使自修改编码智能体跨代写出漏洞代码

    arXiv
    2609.17817
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    Claude Sonnet 4.5、Qwen3.5-397B、gpt-oss-120b 等 6 个

    摘要论文报告了恶意基准能污染自修改代码智能体的进化过程并持续输出漏洞，警示系统设计需纳入安全约束。

    深度解读完整解读
  6. 评测与基准arXiv 2609.39578

    Box² Bench：语言模型能否有选择地依赖外部指导

    提出 Box2-Bench，评测模型能否选择性依赖外部工作流

    arXiv
    2609.39578
    发表
    层
    应用层
    场景
    网页与电脑操作、编程 Agent
    测试
    Gemini 3.7 Flash、DeepSeek V4 Flash、GLM 5.2 等 9 个
    摘要Box2 把利用与稳健拆开。

    Box2-Bench 固定任务与模型，只改变工作流可靠性，用来衡量模型能否选择性依赖可能出错的外部指导。

    深度解读完整解读
已经到底了