10月8日 · 周四

Google DeepMind · 论文

找到 2 篇

筛选2

攻击类型

越狱1 提示注入1 投毒与后门1

影响

有害内容1 输出被操纵1

系统形态

模型与 API1 AI Agent1

攻击面/入口

用户输入1 检索语料1

层

提示层1 应用层1

系统组件

RAG1 护栏与评审1

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 25 篇还没打标签，不在筛选结果里。

攻击类型：越狱攻击类型：投毒与后门话题：Google DeepMind 清除全部

另有 25 篇论文还没打上分类标签，暂不在筛选结果里。

评测与基准arXiv:2607.20891 · 7月23日
MisKnow-Agent 评测
提出 MisKnow-Agent，评测深度研究智能体是否采纳误导性检索知识
AI Agent测试Gemini Deep Research、DeepSeek-V4 Pro、Qwen3.5-397B 等 4 个应用层
- 投毒与后门
- RAG
摘要论文通过 MisKnow-Agent 框架评估发现长程研究智能体易采纳误导性知识，且现有防御难以完全消除该现象。
完整解读
评测与基准arXiv:2608.03070 · 8月4日
FAR.AI 发布 AI 安全排行榜与护栏最低标准 1.0
建立越狱原语分类与双重危害基准，评测模型抵御常见越狱的能力
模型与 API测试Claude Fable 5、Claude Opus 4.8、GPT-5.6 Sol 等 8 个提示层
- 越狱
- 护栏与评审
摘要论文系统评测了前沿模型对已知静态越狱的防御能力，揭示了厂商间防护鲁棒性的巨大分化。
本研究针对前沿 AI 大模型在 CBRNE 与网络高危滥用领域的安全防护，提出了 FAR.AI 最低安全标准（Minimal Standard v1.0）及配套评测基准，系统量化了当前主流模型的防护鲁棒性。
完整解读

已经到底了