跳到正文
10月8日 · 周四

Google DeepMind · 论文

精选论文 15 篇
  1. 评测/基准arXiv:2610.07639 · 58

    HarnessSecurity-Bench 横向评测六款编码智能体框架的安全机制

    在GLM-5.2与6款harness上,开启auto-approve使总体ASR从29.2%升至95.6%。

    • 95.6%GLM-5.2在AA评测中开启auto-approve时的总体ASR(Table 6)
    • 29.2%GLM-5.2在AA评测中关闭auto-approve时的总体ASR(Table 6)
    • 0.8%GLM-5.2在NI评测中开启网络隔离时的总体ASR(Table 6)
    6 问速览代码智能体harness的安全机制实现现状与运行时防护效果缺乏系统评估,论文提出了十机制分类法与基准测试HSB。
    1. 这篇论文试图解决什么问题?

      代码智能体harness的安全机制实现现状与运行时防护效果缺乏系统评估,论文提出了十机制分类法与基准测试HSB。

    2. 有哪些相关研究?

      既有研究涵盖harness分类、生命周期安全审计与特定载荷注入基准,但缺乏对原生机制ON/OFF状态的双重判定隔离评估。

    3. 论文如何解决这个问题?

      建立十机制分类与五方独立审计矩阵,并通过Docker环境注入五类攻击面,以双重预言机量化ON/OFF状态差异。

    4. 论文做了哪些实验?

      在GLM-5.2下开展2500次试验,发现机制防护效果与效用代价分化明显,部分机制存在解释器绕过路径。

    5. 有什么可以进一步探索的点?

      作者指出基准受限于单模型评测、仿真环境保真度及闭源工具缺失,实验覆盖6款开源harness与23个任务。

    6. 总结一下论文的主要内容

      系统审计40款harness并实证评测9类安全机制,量化了自动审批的暴露风险、强隔离的效用代价以及替代执行路径绕过。

    完整解读
  2. 评测/基准arXiv:2607.20891 · 57

    MisKnow-Agent 评测:单篇误导文档使 Deep Research 错误结论平均采纳率升至 54.7%

    评估发现注入单篇虚假文档使六种开源深度研究配置的平均虚假结论采纳率从对照的 0% 升至 54.7%,合成前暴露达 85.5%。

    • 0%六种开源配置在无注入对照条件下的平均 FCAR(据 Section 4.4)
    • 54.7%六种开源配置在注入 1 篇误导文档时的平均 FCAR(据 Section 4.4)
    • 85.5%六种开源配置在合成前(Pre-synthesis)注入时的平均 FCAR(据 Section 4.2)
    6 问速览论文评估在长程深度研究工作流中,智能体是否会在最终报告中采纳具有表面可信度但实际虚假的误导性知识。
    1. 这篇论文试图解决什么问题?

      论文评估在长程深度研究工作流中,智能体是否会在最终报告中采纳具有表面可信度但实际虚假的误导性知识。

    2. 有哪些相关研究?

      论文梳理了深度研究智能体及其评估、外部知识下的模型可靠性与知识冲突、开放网络虚假信息等相关工作。

    3. 论文如何解决这个问题?

      论文提出了 MisKnow-Agent 受控评估框架,构建经核实的误导知识蓝图与多维可控文档,并设计了前后两阶段防御策略。

    4. 论文做了哪些实验?

      论文在两个开源框架和 Gemini Deep Research 上评估了误导知识对虚假结论采纳率的影响及防御效果。

    5. 有什么可以进一步探索的点?

      论文未专门设立章节讨论局限与后续方向,其实验覆盖了两个开源框架、一个闭源系统及多维受控条件。

    6. 总结一下论文的主要内容

      论文通过 MisKnow-Agent 框架评估发现长程研究智能体易采纳误导性知识,且现有防御难以完全消除该现象。

    完整解读
  3. 评测/基准arXiv:2608.03070 · 57

    FAR.AI 发布 AI 安全排行榜与护栏最低标准 1.0

    FAR.AI评估前沿模型CBRNE及网安防御,Grok 4.5与Gemini 3.1 Pro现通用越狱,另两模型未破。

    • 63Grok 4.5 随机搜索下通用越狱数(Figure 1)
    • 18Gemini 3.1 Pro 随机搜索通用越狱数(Figure 1)
    • 385Grok 4.5 专家引导下通用越狱数(Figure 1)
    6 问速览前沿AI模型在高危领域的防御水平参差不齐,论文旨在建立基线测试标准并量化通用越狱风险。
    1. 这篇论文试图解决什么问题?

      前沿AI模型在高危领域的防御水平参差不齐,论文旨在建立基线测试标准并量化通用越狱风险。

    2. 有哪些相关研究?

      论文梳理了越狱攻击技术、防御分类器机制以及高危能力评测三类相关工作,定位本文为最低静态防御基准。

    3. 论文如何解决这个问题?

      论文提出了包含67个原语的越狱分类法,构建了双重危害数据集,并通过三阶段漏斗评测识别通用越狱。

    4. 论文做了哪些实验?

      评测覆盖4家厂商旗舰模型,Grok 4.5与Gemini 3.1 Pro暴露大量通用越狱,Claude与GPT均未失陷。

    5. 有什么可以进一步探索的点?

      作者指出了数据集双重用途歧义、评审漏报及静态局限,实验未覆盖动态自适应攻击和真实能力提升。

    6. 总结一下论文的主要内容

      论文系统评测了前沿模型对已知静态越狱的防御能力,揭示了厂商间防护鲁棒性的巨大分化。

    完整解读
已经到底了