跳到正文
10月13日 · 周二

全部论文

找到 8篇
筛选4
同一类里任选其一,不同类之间同时满足;数字是加上其他已选条件后的篇数。另有 213篇还没打标签,不在筛选结果里。

另有213篇论文还没打上分类标签,暂不在筛选结果里。

  1. 攻击arXiv 2610.12524

    对 AI Agent 系统攻击的探索

    重测并扩展对 AI Agent 的提示注入,并用 Agent Card 欺骗操纵 A2A 选择

    发表
    场景
    AI Agent
    被测模型
    Ollama Mistral 0.9.5、llama3-8b-8192、gemini-2.0-flash-lite 等5个
    摘要单智能体过滤与分类可被格式或措辞绕过,A2A 选卡还会偏向名称和描述。

    作者在自建的 LangChain、AutoGen 和 A2A 系统上重测提示注入,并改 Agent Card 看选择是否偏移。摘要称试验主要凸显单智能体弱点,同时把攻击扩到多智能体。

    深度解读完整解读
  2. 攻击arXiv 2610.04589

    StegoMemory 红队测试:智能体持久记忆可被用作跨会话隐蔽信道

    提出 StegoMemory,评测智能体持久记忆作为跨会话隐写信道

    发表
    场景
    AI Agent
    被测模型
    Llama 3.1 405B、Claude 3.5 Sonnet、GPT-4o 等13个

    摘要研究揭示智能体持久记忆可作为隐蔽信道跨会话传输机密,写入持久化是主要防御瓶颈,呼吁建立记忆完整性防御。

    深度解读完整解读
  3. 攻击arXiv 2609.27542

    研究者用控制 token 注入删除 gpt-oss-20b 推理链并绕过思维链监控

    提出控制标记注入,清空工具 Agent 的思维链以绕过推理监控

    发表
    场景
    AI Agent
    被测模型
    openai/gpt-oss-20b、google/gemma-4-26B-A4B-it、deepseek-ai/DeepSeek-R1-Distill-Qwen-7B 等4个

    摘要论文阐明控制标记注入可抑制 CoT 使监控失效并促成拒绝绕过,且工具执行受解析器宽容度影响。

    深度解读完整解读
  4. 攻击arXiv 2609.18217

    研究:跨通道碎片化攻击可绕过 MCP 单通道防御

    提出跨通道分段攻击,利用 MCP 隐式信任外发敏感文件

    发表
    被测模型
    GPT-4o、GPT-4o-mini、GPT-5.4 等15个

    摘要论文揭示了 MCP 多通道隐式信任层级,通过跨通道分段与协议级利用突破现有防御,展示了严重的凭证外发风险。

    深度解读完整解读
  5. 攻击arXiv 2608.09867

    研究者利用加密推理块跨模型兼容性窃取专有 LLM 推理链

    利用加密思维块的跨模型重放,诱导弱模型逐字转写专有推理链

    发表
    攻击者
    黑盒
    被测模型
    Claude Opus 4.8、Claude Sonnet 4.6、Claude Haiku 4.5 等13个

    摘要论文揭示了客户端加密思维块跨模型互换漏洞,提出了低成本提取方法并给出防御方案。

    深度解读完整解读
  6. 攻击arXiv 2604.01039

    评估与加固 LLM 系统指令以抵御编码攻击提取

    用编码与结构化请求抽取系统指令,并用 CoT 改写加固

    发表
    攻击者
    黑盒
    被测模型
    GPT-4.1-mini、GPT-3.5-turbo、Gemini-2.5-flash 等7个
    摘要编码式请求可在直接拒答后引出系统指令。

    这项工作评测并加固 LLM 系统指令在编码式抽取下的保密性。作者关心的是:直接抽取已被拒绝时,把同一请求改写成格式化或编码任务,模型是否仍交出受保护内容。

    深度解读完整解读
  7. 攻击arXiv 2603.11132

    WebWeaver:以隐蔽的上下文推断攻破 LLM 多智能体系统拓扑机密性

    提出 WebWeaver ,只攻陷单个智能体并从对话上下文恢复多智能体通信拓扑

    发表
    被测模型
    Llama 3.1 8B、Qwen 2.5 7B、Mistral NeMo 12B 等6个
    摘要WebWeaver 用上下文推断拓扑。

    WebWeaver 是针对 LLM-MAS 通信拓扑机密性的推断攻击:只控制一个任意智能体,从对话上下文恢复全图,而不是查询智能体 ID。

    深度解读完整解读
  8. 攻击arXiv 2601.01296

    激进压缩使大语言模型权重窃取成为可能

    提出面向渗出的权重压缩,评估推理服务器权重窃取可行性

    发表
    攻击者
    白盒
    被测模型
    Qwen2-1.5B、Qwen2-7B、Qwen2.5-1.5B 等8个
    摘要作者用残差量化加微调压缩权重,并称法医水印便宜且微调后仍可解码。

    这篇工作把 LLM 权重渗出看成 APT:攻击者已有未加密权重,但必须把完整权重藏进推理 API 的合法输出。作者认为可压缩性是被忽略的因素,因为推理量化要求解压后仍能低开销前向,而偷权重的人可以接受事后微调。

    深度解读完整解读
已经到底了