跳到正文
10月13日 · 周二

全部论文

找到 14篇
筛选5

模型自身风险

危险能力13

影响

有害内容25越权操作209数据与隐私泄露54输出被操纵92可用性与可靠性40监督失效50滥用能力提升14

系统形态

AI Agent14coding agent5web agent0

层

应用层14
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 218篇还没打标签，不在筛选结果里。
影响：滥用能力提升系统形态：AI Agent系统形态：coding agent系统形态：web agent层：应用层清除全部

另有218篇论文还没打上分类标签，暂不在筛选结果里。

  3. 评测与基准arXiv 2610.06584

    论文：AI 在非公开漏洞上更帮攻击者还是防御者

    评测 coding agent 在非公开漏洞上的利用生成、修复与后续攻击

    arXiv
    2610.06584
    发表
    层
    应用层
    场景
    coding agent
    被测模型
    Opus 5、GPT-5.6 Sol、GPT-6 Sol 等10个
    摘要攻防孰强随环境、系统和弱点改变。

    作者比较编程智能体在利用生成与漏洞修复上的自主表现，并检查修复之后还能不能被攻破。文中的 help 指自主完成任务，不是提升人类操作者。

    深度解读完整解读
  5. 评测与基准arXiv 2610.03853

    报告评估 LLM Agent 选择和使用生物工具的能力

    评测 Agent 选择并早期操作高风险生物工具的能力

    arXiv
    2610.03853
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    Claude Opus 4.7、Gemini 3.1 Pro Preview、GPT-5.5 等7个
    摘要七模型能选工具并部分操作 EVEscape 与 ESM3。

    这项评估测量七个前沿 LLM 智能体与生物工具交互的最早两步：为设计任务选工具，以及在仓库里完成玩具级操作。作者关心的是，有生命科学背景但不会专门操作高风险工具的行为者，能否借此降低门槛。范围限于预测性、生成性工具。

    深度解读完整解读
  6. 评测与基准arXiv 2609.36573

    CyberPersistBench：评测 LLM 攻击者的安装与持久化能力

    用 CyberPersistBench 评测入侵后安装与持久化能力

    arXiv
    2609.36573
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    GPT-5.6-sol、Claude Sonnet 5、DeepSeek-V4-pro 等5个
    摘要CyberPersistBench 将入侵后持久化拆成可核验阶段，并比较原生防御与多主机条件。

    CyberPersistBench 是评测入侵后安装与持久化的基准，关注初始访问消失后是否仍能维持原生立足点。。

    深度解读完整解读
  9. 攻击arXiv 2609.15383

    微软团队提出 capability laundering 攻击：弱模型拆分任务向对齐前沿模型套取能力

    提出能力洗钱攻击，拆分任务向对齐模型套取能力

    arXiv
    2609.15383
    发表
    层
    应用层
    场景
    AI Agent
    攻击者
    黑盒
    被测模型
    GPT-5.5、Claude Opus 4.8、Grok-4.3 等7个

    摘要作者提出了能力洗钱攻击，发现未对齐编排器分解咨询对齐模型可恢复能力差距，指出需建立跨会话防御。

    深度解读完整解读
  11. 评测与基准arXiv 2608.11469

    SRE-Bench：面向 Agent 逆向工程的无污染真实规模基准

    提出 SRE-Bench 评测智能体的真实规模二进制逆向能力

    arXiv
    2608.11469
    发表
    层
    应用层
    场景
    coding agent
    被测模型
    GPT-6-Astra、GPT-5.6-Sol、GPT-5.6-Cyber 等11个
    摘要SRE-Bench 用从零编写的大规模保护二进制评测智能体 RE，公开设置下多数模型完全解开比例不高。

    作者构建并评测 SRE-Bench，一个从零编写、用于测量智能体逆向工程而非利用开发的基准，并称它同时满足污染控制与真实软件规模。

    深度解读完整解读
  14. 评测与基准arXiv 2601.13981

    VirtualCrime：通过沙箱模拟评估大语言模型的犯罪潜力与智能体行为

    用 VirtualCrime 沙盒评测模型被赋予犯罪角色后的多步执行与过度伤害

    arXiv
    2601.13981
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    GPT-4.1、GPT-5、Claude-Haiku-4.5 等8个
    摘要作者称八个 LLM 会在沙盒中编排多步犯罪，手段偏欺骗与协作，并出现过度伤害。

    VirtualCrime 是一个多 LLM 智能体的文本沙盒，用来测量模型在被指定犯罪目标之后的多步行为，而不是测量它会不会拒绝恶意查询，也不是测量它会不会自发产生恶意意图。作者要回答的是：初始防护被角色指派绕过之后，模型在会调查、报警并逮捕队伍的环境里，能规划并执行什么，以及执行时是否超出任务所需去使用武力或破坏。除这一指派外，不用外部工具或任务特定脚手架。

    深度解读完整解读
已经到底了