10月8日 · 周四

提示注入 · 论文

找到 2 篇

筛选2

攻击类型

投毒与后门1

模型自身风险

欺骗与谋划1

防御类型

检测与过滤1 监控与审计1

影响

数据与隐私泄露1 输出被操纵1

系统形态

LLM 应用1 AI Agent1 编程 Agent1

攻击面/入口

网页与界面1 检索语料1

层

系统组件

MCP 与技能1 记忆3 RAG1 护栏与评审3 监控器1 权限与沙箱1 视觉1 音频1 多模态1

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 75 篇还没打标签，不在筛选结果里。

系统组件：RAG 系统组件：监控器话题：提示注入清除全部

另有 75 篇论文还没打上分类标签，暂不在筛选结果里。

评测与基准arXiv:2609.02316 · 9月2日
Counter-GEO-Bench：现有护栏难挡 GEO 虚假信息
构建 COUNTER-GEO-BENCH，评测生成式搜索对信息扭曲 GEO 的防御
LLM 应用测试Gemma-4-31B-IT、Qwen-3.5-35B-A3B、Llama-4-Scout-17B-16E 等 11 个应用层
摘要论文构建了针对 GEO 虚假信息的首个防御基准，揭示通用护栏的失效与反作用，并提出了有效的轻量对比检测基线。
完整解读
评测与基准arXiv:2609.19587 · 9月17日
红队测试 Auto Mode：用注入与多上下文攻击绕过编码 Agent 阻断监控器
红队评估编码智能体的阻断监视器，并提出 Auto Mode++加固
编程 Agent测试Opus 5、Opus 4.8、Opus 4.7 等 8 个应用层
摘要系统评估生产阻断监视器在面对持续恶意智能体时的表现，提出加固防御并指明多上下文防御挑战。
完整解读

已经到底了