10月8日 · 周四

提示注入 · 论文

找到 2 篇

筛选2

攻击类型

越狱1 提示注入12 投毒与后门1

防御类型

检测与过滤2

影响

越权操作1 输出被操纵1

系统形态

LLM 应用1 AI Agent1

攻击面/入口

用户输入1 网页与界面1 工具返回1 检索语料1

层

系统组件

RAG1 护栏与评审2

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 75 篇还没打标签，不在筛选结果里。

攻击类型：越狱攻击类型：投毒与后门话题：提示注入清除全部

另有 75 篇论文还没打上分类标签，暂不在筛选结果里。

评测与基准arXiv:2609.02316 · 9月2日
Counter-GEO-Bench：现有护栏难挡 GEO 虚假信息
构建 COUNTER-GEO-BENCH，评测生成式搜索对信息扭曲 GEO 的防御
LLM 应用测试Gemma-4-31B-IT、Qwen-3.5-35B-A3B、Llama-4-Scout-17B-16E 等 11 个应用层
摘要论文构建了针对 GEO 虚假信息的首个防御基准，揭示通用护栏的失效与反作用，并提出了有效的轻量对比检测基线。
完整解读
防御arXiv:2601.10156 · 1月15日
ToolSafe 提出步骤级护栏 TS-Guard 与 TS-Flow，降低 Agent 有害工具调用
提出 TS-Guard 与 TS-Flow，执行前检测并修正智能体有害工具调用
AI Agent测试GPT-4o、Qwen3-8B、Qwen2.5-7B-Instruct 等 10 个应用层
摘要TS-Bench 标步骤级风险，TS-Guard 用多任务 RL 做执行前判定，TS-Flow 用反馈代替直接中止。
ToolSafe 研究 LLM 智能体在工具执行前的步骤级安全：基准 TS-Bench、护栏 TS-Guard，以及反馈驱动框架 TS-Flow。
完整解读

已经到底了