跳到正文
10月8日 · 周四

Agent 安全 · 论文

找到 8 篇
筛选2

模型自身风险

奖励作弊1危险能力2幻觉与编造1

系统形态

AI Agent8编程 Agent3网页与电脑操作0

层

应用层7训练与数据层1

系统组件

MCP 与技能1记忆1

被测模型厂商

其他2
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 388 篇还没打标签，不在筛选结果里。
系统形态：AI Agent系统形态：网页与电脑操作话题：Agent 安全清除全部

另有 388 篇论文还没打上分类标签，暂不在筛选结果里。

  3. 其他arXiv 2607.28568

    Frontis-MA1：面向机器学习工程递归自我改进的 AI4AI 模型

    提出 OpenMLE 全栈，用执行反馈后训练机器学习元进化智能体

    arXiv
    2607.28568
    发表
    层
    训练与数据层
    场景
    编程 Agent
    测试
    Frontis-MA1-35B、Qwen3.6-35B-A3B、Frontis-MA1-30B 等 15 个
    摘要OpenMLE 训练 Frontis-MA1-35B，用四个共享算子把 MLE 后训练和长程搜索接成元进化闭环。

    作者提出全栈 OpenMLE，在机器学习工程里研究从进化到元进化的一步，并把递归自我改进视为更远目标。智能体要在延迟、有噪声的执行反馈下反复修改程序。作者认为公开系统很少同时提供可扩展环境、基于执行的后训练，以及部署该模型的长程进化搜索。

    深度解读完整解读
  5. 其他arXiv 2610.00093

    自我演化智能体的安全性综述：SAVER 过渡中心框架

    提出 SAVER 框架综述自演化智能体的安全状态转移

    arXiv
    2610.00093
    发表
    层
    应用层
    场景
    AI Agent
    摘要SAVER 用状态转移追踪自演化安全：合法状态可经复用变不安全，后代修复证据仍少。

    SAVER 是一篇关于自演化智能体安全的转移中心综述：安全对象从单次回答或单次授权动作，转到可复用状态在多次转移中的谱系。

    深度解读完整解读
  6. 其他arXiv 2610.01195

    Federated Agent Optimization：面向隐私约束下分布式智能体协同优化的联邦智能体优化框架

    提出 FAO 框架，形式化隐私约束下的智能体协同优化

    arXiv
    2610.01195
    发表
    层
    应用层
    场景
    AI Agent
    摘要FAO 把智能体协作写成效用、隐私和通信的多目标问题，并给出组件分类与迁移框架。

    Federated Agent Optimization（FAO） 是一篇框架论文：多个处在私有环境中的 LLM 智能体，如何在原始数据、完整轨迹和本地知识不离开客户端的前提下协作改进。

    深度解读完整解读
  7. 其他arXiv 2609.12039

    现实才是最终验证者：智能体软件工程的两大关键缺口

    提出双缺口框架统一智能体软件工程的奖励投机与幻觉

    arXiv
    2609.12039
    发表
    层
    应用层
    场景
    编程 Agent
    摘要双缺口解释内环为何会放行部署后不可接受的实现，外环用现实证据持续修订 R、M 与 E。

    Reality Is the Final Verifier 用 two-gap framework 解释智能体软件工程的主要失败，并主张用外层保证环持续收窄缺口，而不是试图在部署前证明缺口已关闭。

    深度解读完整解读
  8. 其他arXiv 2609.26457

    Weco AI 提出 AIDE2：AI 研究智能体递归自我改进 8 天获七次提升

    提出双层自改进系统 AIDE2，让外层智能体重写内层 Harness 代码

    arXiv
    2609.26457
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    claude opus 4.7、gemini 3 flash、gemini 3.1 pro 等 6 个

    摘要提出双层递归自改进系统 AIDE2，在固定预算下演化 Harness 代码，多项留出基准超越人类基线并降低奖励黑客。

    深度解读完整解读
已经到底了