跳到正文
10月12日 · 周一

全部论文

找到 6篇
筛选3

攻击类型

提示注入3

攻击技术

自动化搜索3

影响

输出被操纵3

系统形态

LLM 应用3AI Agent3

攻击面/入口

用户输入41文档与消息6工具与技能描述8代码仓库与依赖3图像与音视频9训练数据4权重与梯度3分发渠道4

层

应用层6

系统组件

记忆7护栏与评审5监控器1推理链3
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 233篇还没打标签，不在筛选结果里。
攻击面/入口：文档与消息系统组件：护栏与评审系统组件：监控器清除全部

另有233篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2609.27542

    研究者用控制 token 注入删除 gpt-oss-20b 推理链并绕过思维链监控

    提出控制标记注入，清空工具 Agent 的思维链以绕过推理监控

    arXiv
    2609.27542
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    openai/gpt-oss-20b、google/gemma-4-26B-A4B-it、deepseek-ai/DeepSeek-R1-Distill-Qwen-7B 等4个

    摘要论文阐明控制标记注入可抑制 CoT 使监控失效并促成拒绝绕过，且工具执行受解析器宽容度影响。

    深度解读完整解读
  2. 攻击arXiv 2609.22510

    特拉维夫大学提出爆炸性提示词：条件触发的间接提示注入可绕过九款生产 Agent

    提出条件触发的爆炸提示词，并设计摄入期检测器 DeFuse

    arXiv
    2609.22510
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    Llama-3.1-8B-Instruct、Llama-3.1-70B-Instruct、Qwen2.5-32B-Instruct 等15个
    摘要论文揭示了条件触发使提示注入绕过防御并在触发时执行工具，提出轻量检测器并在摄入期有效防范。

    论文针对大语言模型智能体面临的间接提示注入威胁，研究了利用条件句式实现时间分离的爆炸提示词。

    深度解读完整解读
  5. 攻击arXiv 2601.21360

    合规悖论：自动化学术代码评估中的语义-指令解耦

    提出 AST-ASIP ，把对抗指令植入编译器忽略区域以劫持代码评分

    arXiv
    2601.21360
    发表
    层
    应用层
    场景
    LLM 应用
    被测模型
    DeepSeek-V3.2、Qwen3-235B、GPT-OSS-120B 等9个
    摘要作者称 RLHF 的服从性使评分脱离代码。

    这篇工作把自动代码评分中的失败称为 Compliance Paradox：评分模型可以离开提交逻辑，转而执行嵌在可编译代码里的隐藏指令。

    深度解读完整解读
  6. 攻击arXiv 2601.06884

    研究者提出改写式对抗攻击 PAA，可在不改变论文主张的情况下抬高 LLM 审稿评分

    提出保义释义攻击 PAA，抬高 LLM 审稿评分

    arXiv
    2601.06884
    发表
    层
    应用层
    场景
    LLM 应用
    被测模型
    GPT-4o、Gemini 2.5、Sonnet 4
    摘要PAA 用保义释义抬高 LLM 审稿分。

    PAA 是对 LLM-as-a-Reviewer 的 black-box 攻击：只改写摘要，用评审分做 ICL 搜索，并用 BERTScore 与困惑度限制语义和自然度。

    深度解读完整解读
已经到底了