跳到正文
10月12日 · 周一

全部论文

找到 13篇

另有233篇论文还没打上分类标签,暂不在筛选结果里。

  1. 攻击arXiv 2610.09264

    研究者提出 PackHallu:经规则文件提示注入对编码 Agent 发起包幻觉攻击

    提出 PackHallu,经规则文件提示注入诱导编码 Agent 换用攻击者指定包

    发表
    被测模型
    Qwen2.5-Coder-7B、Qwen3-Coder-30B、Devstral-Small-2-24B 等19个
    摘要PackHallu 诱导规则文件换包。

    PackHallu 研究一种针对编程智能体规则文件的提示注入:让智能体在本应使用合法依赖时,改导入攻击者指定并控制的包。

    深度解读完整解读
  2. 攻击arXiv 2610.05894

    研究者提出闭环偏见注入攻击

    提出闭环激活引导,在扩散语言模型去噪过程中注入定向偏见

    发表
    攻击者
    灰盒
    被测模型
    LLaDA-8B-Instruct、Dream-v0-Instruct-7B、LLaDA-MoE-7B-A1B-Instruct

    摘要通过去噪中间概率反馈动态调节残差流转向,证明扩散语言模型在推理服务栈中存在闭环偏见注入脆弱性。

    深度解读完整解读
  3. 防御arXiv 2610.02349

    MIRROR:面向多智能体通信的法定人数完整性防御

    提出 MIRROR,用多路径摘要多数表决保障多智能体通信完整性

    发表
    被测模型
    Gemma-4-31B-it、Gemini 2.5 Pro
    摘要MIRROR 靠多数路径。

    MIRROR 是 LLM 多智能体通信层上的多路径法定人数完整性原语,只处理不透明字节,不解释消息内容。要处理的是 Agent-in-the-Middle:中介合法终结 TLS 后可改在途消息,而语义校验有推理开销和误拦,签名又要求私钥管理。做法是生成结束后复制同一规范化载荷。

    深度解读完整解读
  4. 防御arXiv 2609.31282

    基于区块链的 Agentic AI 框架:面向安全软件供应链的资源优化与能耗感知

    提出 AttestChain,将供应链安全智能体报告签名上链并据此控制发布

    发表
    被测模型
    GPT-class LLM
    摘要AttestChain 将智能体报告与链上发布门控结合,现有证据来自受控合成构建的总体结果。

    AttestChain 是一个把 LLM 安全检查、智能体身份验证和许可链发布策略连接起来的软件供应链防御框架。。

    深度解读完整解读
  5. 攻击arXiv 2609.02774

    CodePoisonRAG:针对检索增强代码生成的知识投毒攻击

    提出 CodePoisonRAG,对检索增强代码生成的知识库投毒以植入漏洞

    发表
    被测模型
    Qwen 3.5 9B、Code Llama 13B、DeepSeek-Coder-V2 16B

    摘要CodePoisonRAG 展示了 RACG 外部知识库的新攻击面,在较低投毒率下可定向诱发指定漏洞并部分抵御防御。

    深度解读完整解读
  6. 攻击arXiv 2605.15338

    隐藏于记忆:LLM Agent 的潜伏记忆投毒

    提出潜伏记忆投毒,诱导 Agent 把外部文档写成持久伪造记忆

    发表
    场景
    AI Agent
    被测模型
    GPT-5.4、GPT-5.5、Claude Sonnet 4.6 等12个
    摘要持久记忆成为跨会话攻击面:通用载荷可写入伪造记忆,并在相关后续任务中影响行为。

    sleeper memory poisoning 研究带持久记忆的 LLM 助手:外部文档能否让助手存下一则伪造的用户记忆,并在原文档消失后的新会话里被取回、用来改变回复或动作。

    深度解读完整解读
  7. 攻击arXiv 2605.08313

    研究者提出 SeedHijack 攻击,劫持 LLM 采样随机数种子

    提出 SeedHijack,劫持采样 PRNG 以强制选定 token

    发表
    被测模型
    GPT-2 (124M)、Qwen2-1.5B-Instruct、DeepSeek-R1-1.5B 等5个
    摘要采样层 PRNG 被替换以强制选 token。

    SeedHijack 把 LLM 采样用的 PRNG 输出换成攻击者选定的数,从而指定下一个 token。权重、输入和 logits 都不改。防御是用硬件 QRNG 替换该随机源。

    深度解读完整解读
  8. 攻击arXiv 2602.17837

    TFL:针对大语言模型的定向比特翻转攻击

    提出 TFL 定向比特翻转,使选定提示输出虚假答案且无关查询保持正确

    发表
    被测模型
    Qwen3-8B、DeepSeek-R1-Distill-Qwen-14B、LLaMA-3.1-8B-INSTRUCT
    摘要TFL 在三个 LLM 上搜索权重比特,使指定提示出现目标关键词,并约束无关任务下降。

    TFL 是对 LLM 主存权重的目标比特翻转框架:攻击者要让选定提示输出指定虚假答案关键词,同时限制无关查询上的降质。

    深度解读完整解读
  9. 防御arXiv 2601.21189

    去中心化 LLM 推理网络的自适应鲁棒成本感知 Proof of Quality

    为去中心化 LLM 推理网络提出稳健成本感知 PoQ,抵御恶意评估者操纵分数

    发表
    被测模型
    llama 3 2 3b、gemma 2 2b it、tinyllama 1 1b 等10个
    摘要成本感知 PoQ 加入稳健共识。

    这篇扩展工作把成本感知 Proof of Quality 的共识层改成能承受恶意评估分数的形式,奖励仍同时看输出质量与延迟成本。

    深度解读完整解读
  10. 攻击arXiv 2601.04261

    针对大语言模型后门指纹的抑制攻击

    提出 TFA 与 SVA,抑制 ensemble 后门指纹验证

    发表
    被测模型
    LLaMA2-7B、LLaMA3.1-8B-It、Qwen2.5-7B 等11个
    摘要两种 ensemble 攻击 TFA/SVA 抑制后门指纹。

    TFA 与 SVA 是针对后门式 LLM 指纹的 ensemble 抑制攻击,不改模型参数。所有者用 SFT 写入秘密对,只通过 API 验证版权。攻击者未授权取得模型,不知道触发和指纹,却要把每个模型的验证变成失败,同时让 ensemble 至少不差于性能最高的单模型。

    深度解读完整解读
已经到底了