10月8日 · 周四

全部论文

找到 2 篇

筛选1

攻击类型

投毒与后门2

防御类型

检测与过滤1

影响

输出被操纵2

系统形态

LLM 应用1 AI Agent1

攻击面/入口

用户输入19 网页与界面4 文档与消息6 工具返回9 工具与技能描述8 代码仓库与依赖7 检索语料2 记忆写入10 Agent 间消息3 图像与音视频5 分发渠道3 推理服务与硬件1

层

系统组件

RAG2 护栏与评审1

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 1049 篇还没打标签，不在筛选结果里。

攻击面/入口：检索语料清除全部

另有 1049 篇论文还没打上分类标签，暂不在筛选结果里。

评测与基准arXiv:2607.20891 · 7月23日
MisKnow-Agent 评测
提出 MisKnow-Agent，评测深度研究智能体是否采纳误导性检索知识
AI Agent测试Gemini Deep Research、DeepSeek-V4 Pro、Qwen3.5-397B 等 4 个应用层
- 投毒与后门
- RAG
摘要论文通过 MisKnow-Agent 框架评估发现长程研究智能体易采纳误导性知识，且现有防御难以完全消除该现象。
完整解读
评测与基准arXiv:2609.02316 · 9月2日
Counter-GEO-Bench：现有护栏难挡 GEO 虚假信息
构建 COUNTER-GEO-BENCH，评测生成式搜索对信息扭曲 GEO 的防御
LLM 应用测试Gemma-4-31B-IT、Qwen-3.5-35B-A3B、Llama-4-Scout-17B-16E 等 11 个应用层
摘要论文构建了针对 GEO 虚假信息的首个防御基准，揭示通用护栏的失效与反作用，并提出了有效的轻量对比检测基线。
完整解读

已经到底了