跳到正文
10月9日 · 周五

全部论文

找到 7 篇
筛选2

攻击类型

提示注入5投毒与后门1检测规避1

攻击技术

自动化搜索1编码与混淆1

防御类型

模型加固1检测与过滤1指令与数据隔离1权限与审批1监控与审计1水印与溯源1

影响

越权操作3输出被操纵2

系统形态

模型与 API1LLM 应用3AI Agent3编程 Agent1

攻击面/入口

用户输入27网页与界面3文档与消息7工具返回8工具与技能描述5代码仓库与依赖2检索语料2记忆写入4Agent 间消息2训练数据3权重与梯度4分发渠道7推理服务与硬件1

层

模型层1应用层6

系统组件

MCP 与技能1护栏与评审1监控器1权限与沙箱1

被测模型厂商

OpenAI36Qwen（阿里）22Anthropic20Google17DeepSeek16Meta16Mistral7智谱 GLM6xAI6Kimi（月之暗面）5其他16
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 648 篇还没打标签，不在筛选结果里。
攻击面/入口：文档与消息被测模型厂商：Mistral清除全部

另有 648 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2609.13601

    Mind the Gap：检测 DAO 治理中的描述-执行不匹配攻击

    提出 DEMI 检测框架，在执行前识别 DAO 提案描述与执行载荷的不匹配

    arXiv
    2609.13601
    发表
    层
    应用层
    场景
    LLM 应用
    测试
    Mistral-Large、GPT-4o、Claude 4.5 Sonnet 等 8 个
    摘要用公开链上数据仿真治理全流程，再以逐动作证据映射在执行前发现描述与执行不一致。

    Mind the Gap 把 DAO 提案的描述–执行不一致（DEMI）做成可在投票窗口内运行的检测问题。。

    深度解读完整解读
  2. 防御arXiv 2609.36372

    TTMark：超越单 token 熵的成对无失真水印

    提出成对无失真水印 TTMARK，增强低熵下的机器文本检测

    arXiv
    2609.36372
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Mistral-v0.3-7B-Instruct、Llama3.2-3B-Instruct、Qwen2.5-7B-Instruct 等 4 个
    摘要TTMARK 用水印化相邻 token 对利用条件熵，在多种无失真方案上提高检测并保持生成质量。

    TTMARK 是一种成对、无失真的文本水印：对相邻 token 的联合分布重加权，而不是逐 token 独立重加权。

    深度解读完整解读
  3. 评测与基准arXiv 2608.28411

    LongPIBench：面向长上下文提示注入的评测基准

    提出 LongPIBench，评测长文档场景下的提示注入攻击与防御

    arXiv
    2608.28411
    发表
    层
    应用层
    场景
    LLM 应用
    测试
    Ministral-3-8B-Instruct、Llama-3.1-8B-Instruct、Llama-3.2-3B-Instruct 等 11 个

    摘要论文构建长文本提示注入基准 LongPIBench，揭示启发式与优化攻击在长文档中的高有效性及现有防御的大幅失效。

    深度解读完整解读
  5. 评测与基准arXiv 2609.28915

    研究提出 ACE 语料库，评估内核级证据对 Agent 安全检测的有效性

    构建 ACE 语料并比较内核与应用层证据的攻击检测效果

    arXiv
    2609.28915
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    Devstral 2 123B、AdaBoost、XGBoost 等 13 个
    摘要ACE 用配对的内核与应用层证据表明，syscall 痕迹可判别智能体攻击，两层组合通常更好。

    ACE 是一份把智能体会话的内核 syscall 痕迹与应用层清单、转录配对起来的检测语料和基准。。

    深度解读完整解读
已经到底了