研究者提出面向深度强化学习的轨迹级可迁移黑盒对抗攻击
提出轨迹级可迁移对抗攻击,降低深度强化学习策略的期望回报
- arXiv
- 2610.06083
- Published
- Layer
- Model layer
- Evaluated models
- DQN, Double DQN (DDQN)
Abstract轨迹级后退视界攻击在 CartPole 上比逐步 FGSM 类和 Sign 噪声更压低回报。
这项工作研究 DRL 上的迁移式黑盒观测攻击:受害参数不可访问时,在白盒代理上造扰动再迁移。
Another 213papers do not have category tags yet and are not included in filtered results.
提出轨迹级可迁移对抗攻击,降低深度强化学习策略的期望回报
这项工作研究 DRL 上的迁移式黑盒观测攻击:受害参数不可访问时,在白盒代理上造扰动再迁移。
提出 MMSkillRisk 基准,评测多模态技能图像中的隐藏指令诱导 Agent 越权操作
Abstract论文提出 MMSkillRisk 基准与 NCVA 攻击,揭示多模态技能中教学图像潜藏指令可引发未授权操作并与良性任务共存。
提出跨通道分段攻击,利用 MCP 隐式信任外发敏感文件
Abstract论文揭示了 MCP 多通道隐式信任层级,通过跨通道分段与协议级利用突破现有防御,展示了严重的凭证外发风险。
提出 SYNCHAIN,诱导计算机使用 Agent 自建跨任务持久攻击链
Abstract论文揭示了 CUA 自合成工件带来的内部供应链威胁,验证了潜伏载荷的跨任务传播能力与防御局限。
提出 LogInject 框架,评测日志分析中的被动提示注入及缓解
Abstract论文评估了 LLM 日志分析中的上下文污染风险,提出分片拼接等攻击与三层防御,指出必须结合架构隔离与人工介入。
提出 PaperGuard,用图文注入与梯度扰动抬高自动审稿分数并检测恶意指令
PaperGuard同时评测并检测多模态 AI 审稿中的评分操纵。
提出 CRCP 框架,优化分块与重排下的 RAG 语料投毒
CRCP 研究的是带分块和重排的 RAG 语料投毒,而不是只提高文档级检索分数。
提出 SilentRetrieval,以语义保持对抗文档投毒劫持 RAG 检索与生成
SilentRetrieval 是针对 RAG 的两阶段语料投毒,在每查询一篇、合成目标答案的统一协议下,同时处理检索劫持、生成操纵和流畅度。
提出 CITA 三阶段框架,生成可绕过毒性检测器的中文隐式毒性文本
提出 M3 Att,在不知查询时投毒医学多模态 RAG 并误导临床决策
提出 PoisonedSkills,评测编码 Agent 技能生态的文档投毒
PoisonedSkills 研究编码智能体的技能供应链投毒,重点是文档内容如何进入实际系统操作。。
提出 SWhisper,用近超声波向语音驱动 LLM 隐蔽注入越狱提示
Propose Blindfold, jailbreaking embodied LLMs with action-level manipulation
Blindfold is a no-box attack against embodied LLM planning modules, rewriting malicious intent into seemingly benign action sequences.
用简历中的不可见指令做间接提示注入,操纵招聘推荐
Abstract作者称推理在简单注入下会帮攻击圆谎,在不合逻辑的复杂注入下又会把欺骗漏出来。
Proposes SkillJect, which automatically generates poisoned skills to induce code agents to execute hidden scripts
SkillJect is an automated prompt injection framework targeting installable agent skills. The authors address the problem that malicious instructions placed in publicly available or manually installed skills are often rejected or ignored, yet once a skill is installed, it is repeatedly loaded as trusted guidance.
提出隐蔽提示注入攻击 LLM 钓鱼检测器,并给出防御 InjectDefuser
提出 GradingAttack,用梯度后缀与角色扮演操纵教育评分智能体判定
提出查询无关黑盒攻击 DQ-A,用可迁移文末后缀降低文档检索排名
DQ-A 是一种 query-agnostic、complete black-box 的文档隐藏攻击,对象是用最后隐层相似度匹配的 LLM 检索。
提出 AST-ASIP ,把对抗指令植入编译器忽略区域以劫持代码评分
这篇工作把自动代码评分中的失败称为 Compliance Paradox:评分模型可以离开提交逻辑,转而执行嵌在可编译代码里的隐藏指令。
用 OpenRAG-Soc 评测社交网页 RAG 的间接提示注入与检索投毒