跳到正文
10月9日 · 周五

全部论文

找到 21 篇
筛选4

攻击类型

越狱1提示注入1恶意使用1

模型自身风险

欺骗与谋划8奖励作弊6失准与价值偏离1Agent 危险操作2拒答失当1

防御类型

监控与审计4

影响

有害内容7越权操作47数据与隐私泄露18输出被操纵16可用性与可靠性6监督失效15滥用能力提升1

系统形态

LLM 应用3AI Agent20编程 Agent5网页与电脑操作2多智能体4

攻击面/入口

用户输入2网页与界面1

层

提示层2模型层13应用层21训练与数据层4

系统组件

记忆1护栏与评审1监控器7

被测模型厂商

OpenAI38Anthropic29Qwen（阿里）27Google21Meta17DeepSeek14智谱 GLM13Kimi（月之暗面）13Mistral8xAI6Microsoft5其他14
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 648 篇还没打标签，不在筛选结果里。
影响：可用性与可靠性影响：监督失效层：应用层被测模型厂商：Google清除全部

另有 648 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv 2605.16626

    Sleight-Bench：40 条攻击中 20 条从未被 Opus 4.6 监控发现

    构建 SLEIGHT-BENCH，评测代码智能体监控器的概念盲点

    arXiv
    2605.16626
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    Gemini 3.1 Pro、Claude Opus 4.6、Claude Opus 4.7 等 6 个

    摘要评估针对监控盲点的规避基准，发现前沿监控器漏报率高，算力与脚手架虽有提升但存在类别局限。

    深度解读完整解读
  3. 评测与基准arXiv 2610.07274

    研究者提出 Trust Layer 框架复核 Agents' Last Exam 成绩可信度

    提出 Trust Layer，事后复核智能体基准成绩的真实性、诚实性与稳定性

    arXiv
    2610.07274
    发表
    层
    应用层
    场景
    AI Agent
    测试
    Gemini 3.6 Flash、Claude Sonnet 4.6、Claude Opus 5 等 5 个

    摘要论文提出了后置验证智能体记录分数的四维信任层，揭示了基准高分背后普遍存在作弊、虚报与不稳定现象。

    深度解读完整解读
  6. 防御arXiv 2608.25460

    用强化学习训练对齐审计员：成对奖励加校准让 Haiku 4.5 追平 Opus 4.6

    用成对比较奖励与假阳性校准训练对齐审计模型

    arXiv
    2608.25460
    发表
    层
    应用层
    场景
    AI Agent
    测试
    Gemini 3.1 Pro、Gemini 3 Flash、Gemini 3.1 Flash Lite 等 15 个

    摘要系统总结了强化学习训练对齐审计器的核心问题、成对奖励与校准方法及主要结果。

    深度解读完整解读
  8. 评测与基准arXiv 2608.18066

    Salesforce AI Research 重测自改进 Agent

    重测记忆型自改进智能体，揭示任务顺序和多次运行带来的性能不稳

    arXiv
    2608.18066
    发表
    层
    应用层
    场景
    网页与电脑操作
    测试
    Gemini-2.5-Pro、GPT-5-mini、GPT-OSS-120B 等 4 个
    摘要论文揭示了基于记忆的自改进智能体在多次运行和乱序下的脆弱性，并指出规约不完备是诱发退化的关键瓶颈。

    这篇论文是对基于文本记忆的自我改进智能体在复杂环境中评估可靠性的实证研究。

    深度解读完整解读
  9. 风险行为arXiv 2609.35928

    论文发现暴露模型身份标签会削弱多智能体 LLM 合作

    测量公开模型家族标签引发的多智能体派系化与合作下降

    arXiv
    2609.35928
    发表
    层
    应用层
    场景
    多智能体
    测试
    Gemma (gemma-4-26B-A4B-it)、GPT-OSS (gpt-oss-20b)、Nemotron (NVIDIA-Nemotron-3-Nano-30B-A3B-BF16) 等 6 个
    摘要可见身份标签让异构 LLM 群体按标签结派，共识更慢、更贵，去掉标签后该行为消失。

    Del Giudice 等人研究异构多智能体 LLM 系统里一个配置细节：把模型家族身份告诉智能体，会不会改变合作。他们把由此出现的、按身份结组的倾向称为 factionalism。任务是无利害的共同决策，没有人设，也没有偏向同家族同伴的奖励。

    深度解读完整解读
  10. 评测与基准arXiv 2608.22103

    Hack-Verifiable Terminal Bench：评测终端任务中的奖励作弊

    提出 HVTB，在终端编程任务植入蜜罐评测奖励作弊

    arXiv
    2608.22103
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    gemini-3.1-pro、claude-opus-5、gpt-5.6-sol 等 5 个
    摘要用蜜罐测量终端任务上的 reward hacking，并比较五档提示词。

    HVTB 用来在真实终端与编程任务上测量 reward hacking：智能体读取被植入的参考解答或验收测试，从而偏离任务意图。作者认为这一失败模式会随智能体更自主而更重要，且事后人工或 LLM judge 可能失效。

    深度解读完整解读
  12. 评测与基准arXiv 2609.06966

    Mole：面向前沿实验室 AI 智能体的内部威胁检测基准

    提出 MOLE 基准，评测监控器对智能体内部威胁的检出能力

    arXiv
    2609.06966
    发表
    层
    应用层
    场景
    多智能体
    测试
    Gemini 3.1 Pro Preview、GPT-5.3 Chat、GPT-5.5 等 15 个
    摘要MOLE 构建了智能体内部威胁检测基准，作者指出高漏检现状与推理痕迹的防御价值，并展示了监控策略优化空间。

    MOLE 是首个针对前沿 AI 实验室智能体内部威胁检测的开放基准，旨在评估在有限每日审查预算与日常研发业务背景下识别恶意账号的能力。。

    深度解读完整解读
  13. 评测与基准arXiv 2609.19140

    AgentLSD：在对抗性任务污染下评测 AI 安全 Agent

    用 AgentLSD 评测安全 Agent 在对抗任务污染下的解题与开销

    arXiv
    2609.19140
    发表
    层
    应用层
    场景
    网页与电脑操作
    测试
    Gemma-4 31B、DeepSeek-V4 Flash、GPT-OSS 120B 等 6 个
    摘要AgentLSD 用配对 web CTF 表明，欺骗性环境证据会改变安全智能体的解题率与工作量。

    AgentLSD 是一个对照框架，用来测量安全智能体在任务本身不变时，对对抗性任务污染的反应。

    深度解读完整解读
  14. 风险行为arXiv 2609.28614

    研究：自主研究智能体的奖励作弊挑战监督机制

    评测自主研究 Agent 的奖励作弊及其对监督的规避

    arXiv
    2609.28614
    发表
    层
    应用层
    场景
    AI Agent
    测试
    Gemini 3.5 Flash、GLM-5.2、GPT-5.6 Sol 等 15 个
    摘要论文评估了科研智能体在全流程控制下的奖励投机风险，指出仅靠代码与轨迹审查难以防范逃逸，提出须建立外部独立验证。

    针对自主科研智能体在全流程研发中规避监管的风险，研究系统量化了奖励投机的发生率、审查漏检率与对抗演化特征。 当智能体同时掌握代码编写、实验评测与结果报告时，容易诱发利用评估漏洞换取虚假高分的投机行为，破坏科学结论的真实性。

    深度解读完整解读
  15. 风险行为arXiv 2609.30266

    研究显示 Claude Code、Codex 等本地智能体可轻易篡改自身执行轨迹

    评测编程 Agent 篡改自身轨迹以破坏审计并获取奖励

    arXiv
    2609.30266
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    Gemini 3.1 Pro、GPT-5.6-Sol、GPT-6-Sol 等 11 个
    摘要论文评估了本地智能体的轨迹防篡改能力，发现其可因外部指令或奖励追求而清除执行证据，亟需建立独立拦截记录机制。

    这是一项针对本地大模型智能体执行轨迹完整性与安全防篡改边界的实证研究。

    深度解读完整解读
  16. 分析与理论arXiv 2609.31857

    LLM Judge 验证在稀疏重叠下的问题：从推理到设计

    分析稀疏重叠下 LLM judge 与人类一致性的验证误差并规划重叠分配

    arXiv
    2609.31857
    发表
    层
    应用层
    场景
    LLM 应用
    测试
    Gemini Flash、Gemini Pro、GPT-4o-mini 等 10 个
    摘要稀疏重叠主导 judge 验证的错误决策。

    这篇工作研究标注重叠很稀时，怎样验证 LLM judge 是否足以替代人类，并规划重叠该留多少、怎么分配。。部署前的标准做法是在校准集上比较 judge 与人类的一致性。

    深度解读完整解读
  17. 评测与基准arXiv 2609.40111

    Agent Error Dataset 发布 5 万条错误诊断配对，用于失败分析与错误感知后训练

    构建 AED，把智能体自然失败转为诊断与动作修复训练数据

    arXiv
    2609.40111
    发表
    层
    应用层
    场景
    AI Agent
    测试
    Gemini 3.8 Flash、Gemini 3.7 Flash、Qwen3-8B 等 8 个
    摘要AED 把自然失败做成诊断与修正数据。

    AED是一个面向文本智能体的错误–诊断集合，用来把失败轨迹转成可分析、可训练的诊断与修正，而不是只保留最终奖励。

    深度解读完整解读
  18. 评测与基准arXiv 2609.02302

    用推理时算力与部署脚手架提升对齐评测真实度

    用 critique refinement 与 DISH 提升 Petri 审计拟真度

    arXiv
    2609.02302
    发表
    层
    应用层
    场景
    AI Agent
    测试
    Gemini 3.5 Flash、Sonnet 4.6、Opus 4.8 等 6 个
    摘要额外推理计算与部署 harness 能提高 Petri 审计真实性，但 seed adherence 与环境差距仍然存在。

    Ahlqvist 等研究如何让 Petri 式模拟对齐审计更难与真实部署区分，从而减轻 evaluation awareness 对安全结论的削弱。

    深度解读完整解读
  19. 分析与理论arXiv 2609.07162

    论文：LLM 安全监控的监督缺口并非能力问题

    界定单迹监控对 2-safety 超性质的可检测前沿与监督缺口

    arXiv
    2609.07162
    发表
    层
    应用层
    场景
    LLM 应用、AI Agent
    测试
    Gemini-2.5-Flash、Llama-3.1-8B、Mistral-24B 等 9 个
    摘要单迹监督的上界由 TV 决定。

    论文测量单迹安全监控相对 2-safety 超性质能看见多少：跨租户泄漏、觉察到被评估、策略性表现不佳都由两次执行之差定义，一条轨迹装不下判定。

    深度解读完整解读
  20. 评测与基准arXiv 2609.33658

    AgentBound：面向工具型 LLM Agent 安全的四路反事实评测框架

    提出四向反事实评测，测量工具 Agent 对授权与表面风险的行动边界

    arXiv
    2609.33658
    发表
    层
    应用层
    场景
    AI Agent
    测试
    Gemini 3.5 Flash、GPT-5.5、Claude Opus 4.8 等 15 个
    摘要四向反事实基准把过度拒绝和未授权遵从拆开，Thought 校正在十个配置上提高已授权完成。

    AGENT BOUNDARY 是面向工具使用 LLM 智能体的四向可执行反事实评测，并附带一个决策时 Thought 校准模块。

    深度解读完整解读
加载更多