跳到正文
10月12日 · 周一

全部论文

找到 14篇

另有247篇论文还没打上分类标签,暂不在筛选结果里。

  1. 攻击arXiv 2610.06083

    研究者提出面向深度强化学习的轨迹级可迁移黑盒对抗攻击

    提出轨迹级可迁移对抗攻击,降低深度强化学习策略的期望回报

    发表
    被测模型
    DQN、Double DQN (DDQN)
    摘要轨迹级后退视界攻击在 CartPole 上比逐步 FGSM 类和 Sign 噪声更压低回报。

    这项工作研究 DRL 上的迁移式黑盒观测攻击:受害参数不可访问时,在白盒代理上造扰动再迁移。

    深度解读完整解读
  2. 攻击arXiv 2609.39788

    研究:多智能体系统潜在通信链路可被训练用于提升有害顺从

    提出只训练或篡改多智能体潜在通信链路来提高有害遵从

    发表
    被测模型
    Llama-3.2-3B-Instruct、Qwen2.5-3B-Instruct、Gemma-3-1B-IT 等7个
    摘要潜在链路本身即可改变冻结智能体系统的安全,奖励既能攻击也能修复。

    学习得到的潜在通信链路会改变由冻结、对齐智能体组成的系统是否遵从有害请求。。作者研究三种拓扑:双智能体、三级顺序协作,以及双专家加汇总。

    深度解读完整解读
  3. 攻击arXiv 2609.38270

    VirusCascade:劫持 LLM 推荐智能体的协同反思机制

    提出 VirusCascade,联合操纵商品描述与交互轨迹以劫持推荐智能体协同反思

    发表
    被测模型
    AgentCF、AgentSEQ、AgentRAG 等4个
    摘要作者把反思写回视为推广攻击入口,并用联合操纵和诊断探针研究其持续与传播。

    VirusCascade 是针对推荐智能体协作反思的 black-box targeted promotion 攻击研究。 攻击者只改商品描述和少量账号的普通交互,试图让目标商品获得更多良性用户曝光。

    深度解读完整解读
  4. 攻击arXiv 2609.22711

    UBA-ORL:针对离线强化学习的遗忘激活后门攻击

    提出 UBA-ORL,以 BD/CM 样本在遗忘后激活离线 RL 后门

    发表
    被测模型
    TD3+BC、BCQ、IQL
    摘要UBA-ORL 用竞争的 BD/CM 样本,使离线 RL 后门在删除伪装轨迹后激活。

    UBA-ORL 研究离线强化学习中由合规轨迹删除激活的后门:合法贡献者同时上传共享触发的后门轨迹和伪装轨迹,训练后触发响应被压低,删除伪装批次后再升高。受害系统是使用静态数据集和轨迹级遗忘接口的离线 RL 服务。对手不能看到训练算法、参数、梯度或具体遗忘算法,但能提交可区分批次,并在部署时向观测注入预定触发。

    深度解读完整解读
  5. 攻击arXiv 2609.07051

    TrojanWorld:通过想象引导对世界模型智能体植入后门

    提出 TrojanWorld,用物理触发器对世界模型智能体植入想象引导后门

    发表
    被测模型
    TD-MPC2、DreamerV3、R2-Dreamer

    摘要TrojanWorld 揭示了世界模型智能体的供应链后门风险,通过在世界模型中操纵想象可实现对闭环动作的持续控制。

    深度解读完整解读
  6. 攻击arXiv 2608.10393

    DURA:用扩散模型生成自然对抗补丁攻击 VLA 机器人模型

    提出 DURA,用扩散模型生成自然对抗补丁操控 VLA 机器人动作

    发表
    被测模型
    OpenVLA-7B、π0-FAST、openvla-7B
    摘要DURA 用扩散潜空间轨迹生成自然补丁,白盒与黑盒都能把 VLA 导向指定动作。

    DURA 是针对 VLA 的扩散式、补丁内容不受限的机器人攻击,同时支持白盒梯度和只看动作输出的黑盒。

    深度解读完整解读
  7. 攻击arXiv 2606.09499

    研究者提出针对世界模型的机器人学习管线投毒攻击

    提出 VPH 与 VTH,只改视频帧劫持世界模型并投毒下游策略

    发表
    被测模型
    Cosmos-Predict 2.5、Cosmos-Predict 2.5 AC、Dino WM 等4个
    摘要只改视频帧经世界模型投毒。

    只改看似安全的视频帧,经世界模型之后才改变下游机器人策略。 问题在于世界模型进入数据生成后,数据集检查看到的仍是安全演示,合成轨迹却可以变危险。

    深度解读完整解读
  8. 攻击arXiv 2605.08460

    论文建模多智能体网络中的子智能体继承攻击面

    建模并利用多智能体网络中子智能体生成时的记忆继承漏洞

    发表
    被测模型
    MiniMax M2.5、Llama-4-Maverick-17B-128E-Instruct-FP8、Qwen3.5-Plus 等5个
    摘要形式化子智能体继承,在 OpenClaw 上演示四类编排层漏洞并提出防御。

    作者对多智能体网络里的子智能体继承做形式化分析,并用开源框架上的 PoC 演示编排层如何让单点妥协继续扩散。

    深度解读完整解读
  9. 攻击arXiv 2604.03890

    从提示到物理动作:针对 LLM 中介机器人控制系统的结构化后门攻击

    提出结构化 JSON 后门,经投毒 LoRA 在机器人控制中触发恶意动作

    发表
    被测模型
    Llama-3.1-8B-Instruct、Gemma-2-9B-IT、DeepSeek-R1-Distill-Llama-8B 等4个

    摘要推理层后门传不到执行。

    深度解读完整解读
  10. 攻击arXiv 2603.11132

    WebWeaver:以隐蔽的上下文推断攻破 LLM 多智能体系统拓扑机密性

    提出 WebWeaver ,只攻陷单个智能体并从对话上下文恢复多智能体通信拓扑

    发表
    被测模型
    Llama 3.1 8B、Qwen 2.5 7B、Mistral NeMo 12B 等6个
    摘要WebWeaver 用上下文推断拓扑。

    WebWeaver 是针对 LLM-MAS 通信拓扑机密性的推断攻击:只控制一个任意智能体,从对话上下文恢复全图,而不是查询智能体 ID。

    深度解读完整解读
  11. 攻击arXiv 2601.00240

    当智能体将人类视为外群体:LLM 驱动的智能体中的信念依赖偏见

    提出 BPA 改写 profile 与记忆,重新诱发智能体对人类的外群体偏向

    发表
    被测模型
    gpt-4o-mini
    摘要最小群体线索下出现内群体偏向。

    作者考察 LLM 智能体在任意群体边界下会不会把人类当外群体,并用信念投毒检验面向人类的抑制是否依赖身份信念。

    深度解读完整解读
  12. 攻击arXiv 2505.23266

    AdvOF:用对抗物体融合攻击 VLM 驱动的视觉语言导航智能体

    提出 AdvOF,生成对抗物体误导视觉语言导航智能体的场景感知

    发表
    攻击者
    白盒
    被测模型
    Lseg、Clip、ViT-L/16 等5个
    摘要AdvOF 以多视角融合生成对抗物体。

    AdvOF 是针对 VLM 驱动 VLN 服务导航的对抗物体攻击。

    深度解读完整解读
已经到底了