跳到正文
10月9日 · 周五

全部论文

找到 2 篇
筛选4

攻击类型

越狱4提示注入37投毒与后门24模型篡改0提取与窃取2检测规避2恶意使用5

防御类型

指令与数据隔离1权限与审批1

影响

数据与隐私泄露2

系统形态

模型与 API59LLM 应用6AI Agent5编程 Agent2多智能体1

攻击者权限

灰盒1

攻击面/入口

用户输入1Agent 间消息1

层

模型层1应用层1

系统组件

MCP 与技能1权限与沙箱1

被测模型厂商

其他1
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 433 篇还没打标签，不在筛选结果里。
攻击类型：模型篡改攻击类型：提取与窃取系统形态：编程 Agent系统形态：多智能体清除全部

另有 433 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2609.01677

    Skill-as-API：面向智能体软件工程的机密多智能体协作协议

    提出 Skill-as-API，防止协作通道泄露 skill 代码与系统提示词

    arXiv
    2609.01677
    发表
    层
    应用层
    场景
    多智能体、编程 Agent
    摘要协议把 skill 正文留在所有者侧，四层限制发现内容、权限期限和注入拼接。

    Skill-as-API 是面向智能体软件工程的协调协议，用来在跨组织调用时把 skill 的代码和系统提示词留在所有者进程。作者针对三条威胁：经通道或命名空间抽取专有方法，用注入让被调用模型输出系统提示词，以及协作结束后权限继续保留。

    深度解读完整解读
  2. 攻击arXiv 2609.09865

    CGMIA：用成员推理攻击检测代码生成基准的数据泄漏

    提出 CGMIA，用成员推理检测代码生成基准的数据泄漏

    arXiv
    2609.09865
    发表
    层
    模型层
    场景
    编程 Agent
    攻击者
    灰盒
    测试
    Qwen2.5-Coder (3B)、CodeGemma (2B)、DeepSeek-Coder (1.3B) 等 5 个
    摘要CGMIA 融合相似度、通过率、困惑度与 CodeBERT，在模拟泄漏上优于八个 MIA 基线。

    CGMIA 用成员推断检测代码生成基准是否泄入 LLM 训练集，使评测不依赖对训练语料的直接访问。

    深度解读完整解读
已经到底了