跳到正文
10月8日 · 周四

Agent 安全 · 论文

找到 7 篇
筛选2

模型自身风险

奖励作弊1危险能力1幻觉与编造1

系统形态

AI Agent7编程 Agent2

层

提示层0应用层7训练与数据层1

系统组件

MCP 与技能1记忆1

被测模型厂商

其他1
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 388 篇还没打标签，不在筛选结果里。
层：提示层层：应用层话题：Agent 安全清除全部

另有 388 篇论文还没打上分类标签，暂不在筛选结果里。

  4. 其他arXiv 2610.00093

    自我演化智能体的安全性综述：SAVER 过渡中心框架

    提出 SAVER 框架综述自演化智能体的安全状态转移

    arXiv
    2610.00093
    发表
    层
    应用层
    场景
    AI Agent
    摘要SAVER 用状态转移追踪自演化安全：合法状态可经复用变不安全，后代修复证据仍少。

    SAVER 是一篇关于自演化智能体安全的转移中心综述：安全对象从单次回答或单次授权动作，转到可复用状态在多次转移中的谱系。

    深度解读完整解读
  5. 其他arXiv 2610.01195

    Federated Agent Optimization：面向隐私约束下分布式智能体协同优化的联邦智能体优化框架

    提出 FAO 框架，形式化隐私约束下的智能体协同优化

    arXiv
    2610.01195
    发表
    层
    应用层
    场景
    AI Agent
    摘要FAO 把智能体协作写成效用、隐私和通信的多目标问题，并给出组件分类与迁移框架。

    Federated Agent Optimization（FAO） 是一篇框架论文：多个处在私有环境中的 LLM 智能体，如何在原始数据、完整轨迹和本地知识不离开客户端的前提下协作改进。

    深度解读完整解读
  6. 其他arXiv 2609.12039

    现实才是最终验证者：智能体软件工程的两大关键缺口

    提出双缺口框架统一智能体软件工程的奖励投机与幻觉

    arXiv
    2609.12039
    发表
    层
    应用层
    场景
    编程 Agent
    摘要双缺口解释内环为何会放行部署后不可接受的实现，外环用现实证据持续修订 R、M 与 E。

    Reality Is the Final Verifier 用 two-gap framework 解释智能体软件工程的主要失败，并主张用外层保证环持续收窄缺口，而不是试图在部署前证明缺口已关闭。

    深度解读完整解读
  7. 其他arXiv 2609.26457

    Weco AI 提出 AIDE2：AI 研究智能体递归自我改进 8 天获七次提升

    提出双层自改进系统 AIDE2，让外层智能体重写内层 Harness 代码

    arXiv
    2609.26457
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    claude opus 4.7、gemini 3 flash、gemini 3.1 pro 等 6 个

    摘要提出双层递归自改进系统 AIDE2，在固定预算下演化 Harness 代码，多项留出基准超越人类基线并降低奖励黑客。

    深度解读完整解读
已经到底了