Skip to content

Some text is shown in its original language while the English translation is being prepared.

Oct 12 · Monday

All papers

Found 17 papers
Filter1

Model risks

Dangerous capabilities14

Impact

Harmful content286Unauthorized actions210Data and privacy leaks127Output manipulation305Availability and reliability86Oversight failure120Increased misuse capability17

System type

Models and APIs3AI Agent13coding agent5

Layer

Application layer14
Select any value within a category; different categories must all match. Counts include the other filters you have selected.Another 336papers have no tags yet and are not included in filtered results.
Impact：Increased misuse capabilityClear all

Another 336papers do not have category tags yet and are not included in filtered results.

  2. Analysis and theoryarXiv 2610.09004

    研究：去除有害信息不足以证明开源权重模型的抗篡改能力

    论证发布时互信息不能认证开源权重抗微调恢复

    arXiv
    2610.09004
    Published
    Layer
    Training and data layer
    Setting
    Models and APIs
    Evaluated models
    EleutherAI/deep-ignorance-e2e-strong-filter、EleutherAI/deep-ignorance-unfiltered、Google BERT-Tiny and others6
    Abstract作者称零信息仍可一步恢复，表观抗微调可来自参数化。

    作者研究开源权重模型的篡改抵抗：发布时的互信息是否足以保证微调恢复很慢。

    Deep readingFull reading
  4. Evaluation and benchmarksarXiv 2610.06584

    论文：AI 在非公开漏洞上更帮攻击者还是防御者

    评测 coding agent 在非公开漏洞上的利用生成、修复与后续攻击

    arXiv
    2610.06584
    Published
    Layer
    Application layer
    Setting
    coding agent
    Evaluated models
    Opus 5、GPT-5.6 Sol、GPT-6 Sol and others10
    Abstract攻防孰强随环境、系统和弱点改变。

    作者比较编程智能体在利用生成与漏洞修复上的自主表现，并检查修复之后还能不能被攻破。文中的 help 指自主完成任务，不是提升人类操作者。

    Deep readingFull reading
  6. Evaluation and benchmarksarXiv 2610.03853

    报告评估 LLM Agent 选择和使用生物工具的能力

    评测 Agent 选择并早期操作高风险生物工具的能力

    arXiv
    2610.03853
    Published
    Layer
    Application layer
    Setting
    AI Agent
    Evaluated models
    Claude Opus 4.7、Gemini 3.1 Pro Preview、GPT-5.5 and others7
    Abstract七模型能选工具并部分操作 EVEscape 与 ESM3。

    这项评估测量七个前沿 LLM 智能体与生物工具交互的最早两步：为设计任务选工具，以及在仓库里完成玩具级操作。作者关心的是，有生命科学背景但不会专门操作高风险工具的行为者，能否借此降低门槛。范围限于预测性、生成性工具。

    Deep readingFull reading
  8. DefensesarXiv 2609.39866

    研究者提出梯度封堵实现 LLM 发布前的预防性遗忘

    提出 GSU 在发布前封堵敏感门梯度，抵抗下游微调获取禁止能力

    arXiv
    2609.39866
    Published
    Layer
    Training and data layer
    Setting
    Models and APIs
    Attacker
    White-box
    Evaluated models
    Llama-3.2-1B、Llama-3.2-3B、Llama-3.1-8B and others7
    AbstractGSU 在发布前封堵 SiLU 门的获取梯度，并在 TOFU 与 WMDP 上降低下游微调得分。

    Gradient-Sealed Unlearning（GSU）是一种发布前的 preemptive unlearning：不删除模型里已经有的能力，而是让指定禁止域能力更难被发布后的微调获取。

    Deep readingFull reading
  9. Evaluation and benchmarksarXiv 2609.36573

    CyberPersistBench：评测 LLM 攻击者的安装与持久化能力

    用 CyberPersistBench 评测入侵后安装与持久化能力

    arXiv
    2609.36573
    Published
    Layer
    Application layer
    Setting
    AI Agent
    Evaluated models
    GPT-5.6-sol、Claude Sonnet 5、DeepSeek-V4-pro and others5
    AbstractCyberPersistBench 将入侵后持久化拆成可核验阶段，并比较原生防御与多主机条件。

    CyberPersistBench 是评测入侵后安装与持久化的基准，关注初始访问消失后是否仍能维持原生立足点。。

    Deep readingFull reading
  12. OtherarXiv 2609.18120

    PentestChain：面向免费层 LLM 的成本感知 MCP 编排自动化渗透测试框架

    提出成本感知的 MCP 编排框架，用确定性利用图与免费层模型做自动化渗透测试

    arXiv
    2609.18120
    Published
    Layer
    Application layer
    Setting
    LLM applications
    Abstract确定性利用图加免费层级联在十次自建运行上测得付费成本为零。

    PentestChain 是一个十阶段、经 MCP 暴露的自动渗透框架，用确定性利用图把 7B 本地模型挡在利用关键路径之外，并把每次交战的美元成本当作实测指标。。

    Deep readingFull reading
  13. AttacksarXiv 2609.15383

    微软团队提出 capability laundering 攻击：弱模型拆分任务向对齐前沿模型套取能力

    提出能力洗钱攻击，拆分任务向对齐模型套取能力

    arXiv
    2609.15383
    Published
    Layer
    Application layer
    Setting
    AI Agent
    Attacker
    Black-box
    Evaluated models
    GPT-5.5、Claude Opus 4.8、Grok-4.3 and others7

    Abstract作者提出了能力洗钱攻击，发现未对齐编排器分解咨询对齐模型可恢复能力差距，指出需建立跨会话防御。

    Deep readingFull reading
  15. Evaluation and benchmarksarXiv 2608.11469

    SRE-Bench：面向 Agent 逆向工程的无污染真实规模基准

    提出 SRE-Bench 评测智能体的真实规模二进制逆向能力

    arXiv
    2608.11469
    Published
    Layer
    Application layer
    Setting
    coding agent
    Evaluated models
    GPT-6-Astra、GPT-5.6-Sol、GPT-5.6-Cyber and others11
    AbstractSRE-Bench 用从零编写的大规模保护二进制评测智能体 RE，公开设置下多数模型完全解开比例不高。

    作者构建并评测 SRE-Bench，一个从零编写、用于测量智能体逆向工程而非利用开发的基准，并称它同时满足污染控制与真实软件规模。

    Deep readingFull reading
  16. Evaluation and benchmarksarXiv 2607.18538

    CryptanalysisBench：五个前沿模型在 191 项密码分析任务上的表现

    用 CryptanalysisBench 评测大模型的端到端密码分析能力

    arXiv
    2607.18538
    Published
    Layer
    Application layer
    Setting
    coding agent
    Evaluated models
    Claude Opus 4.8、Claude Sonnet 5、Claude Mythos 5 and others10

    Abstract提出真实密码原语分析基准，证实前沿模型具备显著分析能力并能发现未公开设计缺陷。

    Deep readingFull reading
  17. Evaluation and benchmarksarXiv 2606.14295

    AgentCyberRange：复旦团队发布真实网络靶场自主攻击能力基准

    构建真实网络靶场基准，评测 AI 的端到端自主攻击能力

    arXiv
    2606.14295
    Published
    Layer
    Application layer
    Setting
    coding agent
    Evaluated models
    GPT-5.5、Claude-Opus-4.7、GLM-5.1 and others7

    Abstract构建开放多靶场评测基础设施 AGENTCYBERRANGE，测定前沿 AI 网络攻击能力并揭示其端到端规划短板。

    Deep readingFull reading
You have reached the end