跳到正文
10月12日 · 周一

全部论文

找到 20篇

另有262篇论文还没打上分类标签,暂不在筛选结果里。

  1. 攻击arXiv 2610.09264

    研究者提出 PackHallu:经规则文件提示注入对编码 Agent 发起包幻觉攻击

    提出 PackHallu,经规则文件提示注入诱导编码 Agent 换用攻击者指定包

    发表
    被测模型
    Qwen2.5-Coder-7B、Qwen3-Coder-30B、Devstral-Small-2-24B 等19个
    摘要PackHallu 诱导规则文件换包。

    PackHallu 研究一种针对编程智能体规则文件的提示注入:让智能体在本应使用合法依赖时,改导入攻击者指定并控制的包。

    深度解读完整解读
  2. 攻击arXiv 2610.07323

    ATLAS:用自适应信任域与主动学习搜索潜在对抗样本集

    提出 ATLAS 用水平集估计恢复黑盒分类器的对抗输入集合

    发表
    攻击者
    黑盒
    被测模型
    LeNet5、ResNet50 (CIFAR-10 standard)、ResNet50 (ImageNet standard) 等5个
    摘要ATLAS 用主动水平集估计构造黑盒对抗集,作者称其集合比单点攻击更具代表性。

    ATLAS 是一个查询式 black-box 框架,用来构造诱发失败的对抗输入集合,供鲁棒性审计使用。

    深度解读完整解读
  3. 攻击arXiv 2609.28613

    研究:提示注入可改变 Jev 决策模型的行动概率

    测量间接提示注入对类型化概率决策的动作劫持

    发表
    被测模型
    jev-1.13.0
    摘要封闭动作集改变提示注入的表现,但没有去掉概率被不可信内容移动的风险。

    作者在 jev-1.13.0 上研究 decision hijacking:不可信内容能否在用户任务和可选动作都不变时,把类型化决策推向攻击者目标。

    深度解读完整解读
  4. 攻击arXiv 2609.27422

    RAMP:逆转对抗扰动以增强针对恶意软件检测器的干净标签后门攻击

    提出 RAMP,逆转对抗扰动加强恶意软件检测器的干净标签后门

    发表
    被测模型
    MalConv、MalConvGCG
    摘要RAMP 用反转扰动做 clean-label 投毒。

    RAMP 是 score-based black-box 下的 clean-label 后门增强,对象是会微调的 Windows PE 原始字节恶意软件检测器。

    深度解读完整解读
  5. 攻击arXiv 2609.01325

    VerTox:用可验证奖励引导的强化学习对神经排序模型实施语料投毒

    提出 VerTox,用可验证奖励强化学习生成误导文档并投毒检索语料

    发表
    被测模型
    SimLM-base、BGE-base、Cohere-embed-english-v3.0 等8个
    摘要VerTox 以可验证奖励微调小 LLM,生成能抬高排序并腐蚀事实的投毒文档。

    VerTox 用可验证奖励把小 LLM 微调成语料投毒生成器,用来探测神经排序器在注入文档下的暴露面。

    深度解读完整解读
  6. 攻击arXiv 2608.04565

    研究者提出 Breadcrumbing 长程攻击,可劫持 DeepResearch 类搜索 Agent 的证据链

    提出权威链劫持与轨迹引导策略演化,劫持搜索 Agent 的证据链

    发表
    场景
    web agent
    被测模型
    Qwen3.5-9B、Gemma4-31B、DeepResearch 等7个

    摘要论文揭示了多步搜索智能体在受限中间人操纵下的脆弱性,提出 ACH 策略与 TGSE 演化方法并完成系统验证。

    深度解读完整解读
  7. 攻击arXiv 2607.05189

    研究者提出 MemGhost,对持久化个人 Agent 实现隐蔽记忆注入

    提出 MEMGHOST,用单封邮件对持久个人 Agent 做跨会话隐蔽记忆注入

    发表
    场景
    AI Agent
    被测模型
    GPT-5.4、Claude Sonnet 4.6、Claude Sonnet 4.5 等6个
    摘要总结了论文的研究背景、双代理优化方法 MEMGHOST、全周期实验结果以及作者对记忆信任边界的启示。

    本文研究了持久化个人智能体面临的隐蔽记忆注入威胁,提出了一套兼顾写入、隐蔽与跨会话生效的自动化生成框架与全周期评测基准。

    深度解读完整解读
  8. 攻击arXiv 2606.01212

    DiscourseFlip:针对黑盒 RAG 的话语级观点操纵攻击

    提出 DiscourseFlip,用有限文档投毒操纵黑盒 RAG 的话语级观点

    发表
    被测模型
    Llama3.1-8B-Instruct、Qwen3-8B-Instruct、BGE 等5个
    摘要DiscourseFlip 按语义图分配投毒预算。

    DiscourseFlip 是针对黑盒 RAG 的话语级观点操纵。作者要处理的缺口是:只打单条查询或主题局部查询时,覆盖窄,目标受审查时容易被隔离,也难沿相关话题传播。攻击者不能看检索器或 LLM 内部,也不能改提示词模板,只能在文档数、生成 token 和 SEO 编辑距离限制下注入少量文档。

    深度解读完整解读
  9. 攻击arXiv 2605.26156

    BITE:用上下文赌博机操纵风格偏置攻击 LLM 评委

    提出 BITE,用上下文赌博机选择风格修改抬高 LLM 评委打分

    发表
    攻击者
    黑盒
    被测模型
    o3-mini、Gemini-2.5-Flash、Llama-3.3-70B-Instruct 等8个
    摘要BITE 用黑盒赌博机利用风格偏差抬分,作者称这对 LLM-as-a-judge 构成威胁。

    BITE 是黑盒风格操纵:在保持答案语义的同时,抬高 LLM 评审给出的分数。

    深度解读完整解读
  10. 攻击arXiv 2605.15338

    隐藏于记忆:LLM Agent 的潜伏记忆投毒

    提出潜伏记忆投毒,诱导 Agent 把外部文档写成持久伪造记忆

    发表
    场景
    AI Agent
    被测模型
    GPT-5.4、GPT-5.5、Claude Sonnet 4.6 等12个
    摘要持久记忆成为跨会话攻击面:通用载荷可写入伪造记忆,并在相关后续任务中影响行为。

    sleeper memory poisoning 研究带持久记忆的 LLM 助手:外部文档能否让助手存下一则伪造的用户记忆,并在原文档消失后的新会话里被取回、用来改变回复或动作。

    深度解读完整解读
  11. 攻击arXiv 2603.24203

    研究者提出 TIP:用树结构搜索为 MCP 生成隐蔽注入载荷

    提出 TIP,用树搜索为 MCP 响应生成隐蔽注入载荷

    发表
    场景
    AI Agent
    被测模型
    Qwen2.5-7B-Instruct、Qwen2.5-72B-Instruct、Llama3.1-8B-Instruct 等8个
    摘要TIP 在 MCP 工具响应上做黑盒注入。

    TIP 是面向 MCP 工具响应的 black-box 间接提示注入,目标是在不改工具元数据的情况下生成语义连贯的 JSON 载荷。

    深度解读完整解读
  12. 攻击arXiv 2602.06616

    Confundo:学习为实际 RAG 系统生成鲁棒投毒内容

    提出 Confundo,微调投毒生成器为 RAG 生成抗分块的鲁棒投毒内容

    发表
    被测模型
    Qwen3-8b、Llama3-8b、DeepSeek 等8个
    摘要Confundo 用微调生成器做 RAG 投毒,作者报告事实、观点和幻觉三类目标上的攻击结果。

    Confundo 把 RAG 投毒做成微调:小模型按目标问题生成短毒文,再放进会被知识库摄入的文档。它针对的是实际系统会切块、用户也不会照抄预设问句,专用投毒因而变弱。攻击者没有目标系统的内部知识,也不能查询它,只能准备待摄入文档。

    深度解读完整解读
  13. 攻击arXiv 2601.06884

    研究者提出改写式对抗攻击 PAA,可在不改变论文主张的情况下抬高 LLM 审稿评分

    提出保义释义攻击 PAA,抬高 LLM 审稿评分

    发表
    被测模型
    GPT-4o、Gemini 2.5、Sonnet 4
    摘要PAA 用保义释义抬高 LLM 审稿分。

    PAA 是对 LLM-as-a-Reviewer 的 black-box 攻击:只改写摘要,用评审分做 ICL 搜索,并用 BERTScore 与困惑度限制语义和自然度。

    深度解读完整解读
已经到底了