10月8日 · 周四

提示注入 · 论文

找到 2 篇

筛选2

攻击类型

越狱1 提示注入1 投毒与后门1

攻击技术

自动化搜索1 诱导选用1

防御类型

检测与过滤1

影响

越权操作1 输出被操纵1

系统形态

LLM 应用1 AI Agent1

攻击者权限

攻击面/入口

用户输入2 网页与界面1 文档与消息4 工具返回4 工具与技能描述1 代码仓库与依赖1 检索语料1 记忆写入3 Agent 间消息1 图像与音视频1

层

系统组件

MCP 与技能1 RAG1 护栏与评审1

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 75 篇还没打标签，不在筛选结果里。

攻击面/入口：网页与界面攻击面/入口：工具与技能描述话题：提示注入清除全部

另有 75 篇论文还没打上分类标签，暂不在筛选结果里。

评测与基准arXiv:2609.02316 · 9月2日
Counter-GEO-Bench：现有护栏难挡 GEO 虚假信息
构建 COUNTER-GEO-BENCH，评测生成式搜索对信息扭曲 GEO 的防御
LLM 应用测试Gemma-4-31B-IT、Qwen-3.5-35B-A3B、Llama-4-Scout-17B-16E 等 11 个应用层
摘要论文构建了针对 GEO 虚假信息的首个防御基准，揭示通用护栏的失效与反作用，并提出了有效的轻量对比检测基线。
完整解读
攻击arXiv:2608.30441 · 8月31日
ECLIPSE：针对长程 Agent 系统的自演化隐蔽提示注入攻击
提出 ECLIPSE 双通道自演化提示注入，劫持长程智能体动作轨迹
AI Agent攻击者黑盒测试DeepSeek、GPT-4o、Claude 4.8 Opus 等 7 个应用层
完整解读

已经到底了