Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 7 papers
Filter2

Model risks

Dangerous agent actions2Dangerous capabilities5

System type

AI Agent6science agent3

Layer

Application layer5
Select any value within a category; different categories must all match. Counts include the other filters you have selected.Another 265papers have no tags yet and are not included in filtered results.
Model risks：Dangerous agent actionsModel risks：Dangerous capabilitiesClear all

Another 265papers do not have category tags yet and are not included in filtered results.

  2. OtherarXiv 2609.36054

    多作者论文评估 AI 研发自动化触发智能爆炸的可能与政策应对

    评估自动化 AI 研发触发智能爆炸的可能并提出政策应对

    arXiv
    2609.36054
    Published
    Layer
    Training and data layer
    Setting
    science agent
    Abstract软件驱动智能爆炸可能把数年进展压进数月，作者要求三项政策先做好。

    Chan 等论证：自动化 AI 研发可能经软件反馈环形成智能爆炸，把本需数年的进展压进数月或更短。他们关心的不是换硬件的建设周期，而是 AI 扩大有效研发劳动力、再产出更强系统，以及社会能否在能力跃迁前看见、约束并适应这一过程。

    Paper analysisRead analysis
  3. OtherarXiv 2609.26457

    Weco AI 提出 AIDE2：AI 研究智能体递归自我改进 8 天获七次提升

    提出双层系统 AIDE2，使研究智能体自改进 Harness 并对比人类研发基线

    arXiv
    2609.26457
    Published
    Layer
    Application layer
    Setting
    science agent
    Evaluated models
    gemini 3 flash, gpt-5.6-sol, fable 5

    Abstract提出双层递归自改进系统 AIDE2，在固定预算下演化 Harness 代码，多项留出基准超越人类基线并降低奖励黑客。

    Paper analysisRead analysis
  4. OtherarXiv 2609.18120

    PentestChain：面向免费层 LLM 的成本感知 MCP 编排自动化渗透测试框架

    提出成本感知的 MCP 编排框架，用确定性利用图与免费层模型做自动化渗透测试

    arXiv
    2609.18120
    Published
    Layer
    Application layer
    Setting
    LLM applications
    Abstract确定性利用图加免费层级联在十次自建运行上测得付费成本为零。

    PentestChain 是一个十阶段、经 MCP 暴露的自动渗透框架，用确定性利用图把 7B 本地模型挡在利用关键路径之外，并把每次交战的美元成本当作实测指标。。

    Paper analysisRead analysis
  6. OtherarXiv 2607.28568

    Frontis-MA1：面向机器学习工程递归自我改进的 AI4AI 模型

    提出 OpenMLE，后训练元进化智能体并做机器学习工程长程搜索

    arXiv
    2607.28568
    Published
    Layer
    Training and data layer
    Setting
    coding agent
    Evaluated models
    Frontis-MA1-35B, Frontis-MA1-30B
    AbstractOpenMLE 训练 Frontis-MA1-35B，用四个共享算子把 MLE 后训练和长程搜索接成元进化闭环。

    作者提出全栈 OpenMLE，在机器学习工程里研究从进化到元进化的一步，并把递归自我改进视为更远目标。智能体要在延迟、有噪声的执行反馈下反复修改程序。作者认为公开系统很少同时提供可扩展环境、基于执行的后训练，以及部署该模型的长程进化搜索。

    Paper analysisRead analysis
  7. OtherarXiv 2402.04247

    论文探讨 AI 科学家的风险：应优先保障安全而非自主性

    梳理 AI 科学家的风险并主张三元防护框架

    arXiv
    2402.04247
    Published
    Layer
    Application layer
    Setting
    science agent
    Abstract作者主张防护优先于自主性，用三元框架把输出安全扩展到行为与环境反馈。

    这是一篇关于 LLM 驱动 AI scientists 的 perspective：自主科研能力增强时，误用和意外后果缺少科学情境下的系统防护。

    Paper analysisRead analysis
You have reached the end