跳到正文
10月10日 · 周六

全部论文

找到 4 篇
筛选6

攻击类型

越狱15提示注入154投毒与后门48提取与窃取1检测规避17拒绝服务3恶意使用5

影响

可用性与可靠性3

系统形态

AI Agent4

攻击面/入口

用户输入47网页与界面1文档与消息1工具返回1工具与技能描述2图像与音视频5训练数据7权重与梯度9推理服务与硬件6

层

应用层4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 193 篇还没打标签，不在筛选结果里。
攻击类型：提取与窃取攻击类型：拒绝服务攻击面/入口：网页与界面攻击面/入口：文档与消息攻击面/入口：工具返回攻击面/入口：工具与技能描述清除全部

另有 193 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2609.28585

    论文提出持久计费状态概念，揭示工具调用 LLM Agent 的拒绝钱包攻击与防御

    定义工具调用 Agent 的持久计费状态，提出拒绝钱包攻击与防御

    arXiv
    2609.28585
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    GPT-4o、GPT-4o-mini、Mistral-Large 等 7 个
    摘要已准入工具返回的跨轮保留会重复计费。

    这篇工作把工具调用智能体里跨轮保留、并被提供商反复计费的外部工具返回定义为 persistent billable state，并把它的主机侧再次送入决定当作控制点。。

    深度解读完整解读
  2. 防御arXiv 2609.01677

    Skill-as-API：面向智能体软件工程的机密多智能体协作协议

    提出 Skill-as-API，隔离多智能体协作中的 skill 正文与系统提示词

    arXiv
    2609.01677
    发表
    层
    应用层
    场景
    多智能体、coding agent
    摘要协议把 skill 正文留在所有者侧，四层限制发现内容、权限期限和注入拼接。

    Skill-as-API 是面向智能体软件工程的协调协议，用来在跨组织调用时把 skill 的代码和系统提示词留在所有者进程。作者针对三条威胁：经通道或命名空间抽取专有方法，用注入让被调用模型输出系统提示词，以及协作结束后权限继续保留。

    深度解读完整解读
已经到底了