跳到正文
10月8日 · 周四

提示注入 · 论文

找到 3 篇
筛选1

攻击类型

越狱1提示注入2投毒与后门1

防御类型

检测与过滤3监控与审计1

影响

越权操作1输出被操纵1可用性与可靠性1

系统形态

LLM 应用1AI Agent2

攻击面/入口

用户输入1网页与界面1工具返回2检索语料1

层

应用层3

系统组件

RAG1护栏与评审3

被测模型厂商

其他3
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 75 篇还没打标签，不在筛选结果里。
防御类型：检测与过滤话题：提示注入清除全部

另有 75 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv:2610.03448 ·

    研究重测 15 个提示注入检测器：基准分数难以预测 Agent 部署表现

    重评提示注入检测器，检验基准分数对智能体部署的预测力

    AI Agent测试Horizon-Labs、Wolf Defender、Prismor-1.5B 等 15 个应用层

    摘要论文揭示公开基准无法反映智能体检测器表现，检测能力源于输入格式相似而非通用防御，建议基于工具输出与低误报评测。

    完整解读
  3. 防御arXiv:2601.10156 ·

    ToolSafe 提出步骤级护栏 TS-Guard 与 TS-Flow，降低 Agent 有害工具调用

    提出 TS-Guard 与 TS-Flow，执行前检测并修正智能体有害工具调用

    AI Agent测试GPT-4o、Qwen3-8B、Qwen2.5-7B-Instruct 等 10 个应用层
    摘要TS-Bench 标步骤级风险，TS-Guard 用多任务 RL 做执行前判定，TS-Flow 用反馈代替直接中止。

    ToolSafe 研究 LLM 智能体在工具执行前的步骤级安全：基准 TS-Bench、护栏 TS-Guard，以及反馈驱动框架 TS-Flow。

    完整解读
已经到底了