跳到正文
10月10日 · 周六

全部论文

找到 4 篇
筛选4

攻击类型

拒绝服务3

影响

有害内容11越权操作35数据与隐私泄露38输出被操纵35可用性与可靠性4监督失效4

系统形态

AI Agent3

层

模型层1应用层2训练与数据层4基础设施层1
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 386 篇还没打标签，不在筛选结果里。
影响：可用性与可靠性层：模型层层：应用层层：基础设施层清除全部

另有 386 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2610.06083

    研究者提出面向深度强化学习的轨迹级可迁移黑盒对抗攻击

    提出轨迹级可迁移对抗攻击，降低深度强化学习策略的期望回报

    arXiv
    2610.06083
    发表
    层
    模型层
    场景
    具身与机器人
    被测模型
    DQN、Double DQN (DDQN)
    摘要轨迹级后退视界攻击在 CartPole 上比逐步 FGSM 类和 Sign 噪声更压低回报。

    这项工作研究 DRL 上的迁移式黑盒观测攻击：受害参数不可访问时，在白盒代理上造扰动再迁移。

    深度解读完整解读
  3. 攻击arXiv 2609.28585

    论文提出持久计费状态概念，揭示工具调用 LLM Agent 的拒绝钱包攻击与防御

    定义工具调用 Agent 的持久计费状态，提出拒绝钱包攻击与防御

    arXiv
    2609.28585
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    GPT-4o、GPT-4o-mini、Mistral-Large 等 7 个
    摘要已准入工具返回的跨轮保留会重复计费。

    这篇工作把工具调用智能体里跨轮保留、并被提供商反复计费的外部工具返回定义为 persistent billable state，并把它的主机侧再次送入决定当作控制点。。

    深度解读完整解读
已经到底了