跳到正文
10月8日 · 周四

Agent 安全 · 论文

找到 19 篇

另有 307 篇论文还没打上分类标签,暂不在筛选结果里。

  1. 其他arXiv 2610.00093

    自我演化智能体的安全性综述:SAVER 过渡中心框架

    提出 SAVER 框架综述自演化智能体的安全状态转移

    发表
    场景
    AI Agent
    摘要SAVER 用状态转移追踪自演化安全:合法状态可经复用变不安全,后代修复证据仍少。

    SAVER 是一篇关于自演化智能体安全的转移中心综述:安全对象从单次回答或单次授权动作,转到可复用状态在多次转移中的谱系。

    深度解读完整解读
  2. 其他arXiv 2610.01195

    Federated Agent Optimization:面向隐私约束下分布式智能体协同优化的联邦智能体优化框架

    提出 FAO 框架,形式化隐私约束下的智能体协同优化

    发表
    场景
    AI Agent
    摘要FAO 把智能体协作写成效用、隐私和通信的多目标问题,并给出组件分类与迁移框架。

    Federated Agent Optimization(FAO) 是一篇框架论文:多个处在私有环境中的 LLM 智能体,如何在原始数据、完整轨迹和本地知识不离开客户端的前提下协作改进。

    深度解读完整解读
  3. 其他arXiv 2609.12039

    现实才是最终验证者:智能体软件工程的两大关键缺口

    提出双缺口框架统一智能体软件工程的奖励投机与幻觉

    发表
    摘要双缺口解释内环为何会放行部署后不可接受的实现,外环用现实证据持续修订 R、M 与 E。

    Reality Is the Final Verifier 用 two-gap framework 解释智能体软件工程的主要失败,并主张用外层保证环持续收窄缺口,而不是试图在部署前证明缺口已关闭。

    深度解读完整解读
  4. 其他arXiv 2609.26457

    Weco AI 提出 AIDE2:AI 研究智能体递归自我改进 8 天获七次提升

    提出双层自改进系统 AIDE2,让外层智能体重写内层 Harness 代码

    发表
    测试
    claude opus 4.7、gemini 3 flash、gemini 3.1 pro 等 6 个

    摘要提出双层递归自改进系统 AIDE2,在固定预算下演化 Harness 代码,多项留出基准超越人类基线并降低奖励黑客。

    深度解读完整解读
  5. 其他arXiv 2609.39982

    Mid-Harness:在模型与 Harness 之间扩展终端智能体的动作采样

    提出 Mid-Harness,在执行前验证并选择终端智能体的候选动作

    发表
    测试
    TMAX-9B、TMAX-4B、TMAX-27B 等 8 个
    摘要Mid-Harness 在执行前选择候选动作。

    Mid-Harness 在不改生成器和执行 harness 的前提下,于二者之间做动作级测试时计算,用来研究终端智能体里“多采样、再验证”何时提高轨迹成功。

    深度解读完整解读
  6. 其他arXiv 2609.38807

    PatchHolmes:基于列表式选择的智能体补丁检索系统

    提出列表式智能体补丁检索系统,在仓库中定位 CVE 修复提交

    发表
    测试
    Qwen3-235B、Qwen3-Coder-30B、gpt-oss-120B 等 6 个
    摘要PatchHolmes 用混合检索和列表式四工具智能体做补丁检索,增益主要来自联合阅读候选而非更换骨干。

    PatchHolmes 是面向补丁检索的两阶段系统:在本地 Git 仓库上用冻结开源权重模型,为一个已知 CVE 找出修复提交,不做按仓库微调,也不使用付费外部搜索 API。

    深度解读完整解读
  7. 其他arXiv 2609.38143

    为测试时 AI4AI 的智能体执行环境设计学习元技能

    提出固定权重下学习 meta-skill 以为未见任务搭建智能体 harness 的方法

    发表
    测试
    GPT-5.6-Sol、Gemini-3.6-Flash、Qwen3.8-Flash 等 5 个
    摘要冻结的 meta-skill 库指导 Builder 为未见任务搭建 harness,权重保持固定。

    作者研究 test-time AI4AI:Builder 与 Target 权重都固定时,Builder 学习如何为 Target 构造更好的执行环境。

    深度解读完整解读
  8. 其他arXiv 2609.15818

    Atria Dawn Preview:智能体超级智能的黎明

    用可验证经验流水线训练智能体并分析人机研发分工

    发表
    场景
    AI Agent
    测试
    Atria Dawn Preview、DeepSeek V4 Pro、KIMI K3 等 7 个
    摘要Atria Dawn 在五个基准上领先,研发日志里人类仍掌握大多数最终决定。

    Atria Dawn Preview 是面向研究与工程流程的智能体语言模型,论文同时报告它的基准表现,以及开发它的过程中人与智能体如何分工。

    深度解读完整解读
  9. 其他arXiv 2609.15779

    EvoOntology:面向数据智能体的自演化本体层

    提出自演化本体层 EvoOntology,供数据智能体经 MCP 查询异构数据语义

    发表
    场景
    AI Agent
    测试
    GPT-5.5、GPT-5.6-sol、Claude-Sonnet-5 等 6 个
    摘要EvoOntology 用可查询、可演化的 MCP 本体缩小数据智能体与异构数据的差距。

    EvoOntology 为数据智能体增加一层可在运行时查询、并随执行轨迹更新的本体,用来缩小 agent–data gap。

    深度解读完整解读
  10. 其他arXiv 2609.17247

    DriveMCP:面向高级驾驶辅助系统的智能体 AI 框架

    提出 DriveMCP 框架,将感知、交规检索与 RSS 仲裁接成可审计驾驶辅助

    发表
    测试
    DriveLM
    摘要DriveMCP 用可审计专家工具和 RSS/TTC 仲裁做驾驶辅助,作者称违章与超速低于三个 VLM 基线。

    DriveMCP 是面向高级驾驶辅助的模块化智能体框架,把感知、合规、车辆状态和安全仲裁拆开并留下审计轨迹。

    深度解读完整解读
  11. 其他arXiv 2609.18120

    PentestChain:面向免费层 LLM 的成本感知 MCP 编排自动化渗透测试框架

    提出成本感知的 MCP 编排框架,用确定性利用图与免费层模型做自动化渗透测试

    发表
    测试
    qwen2.5:7b (Ollama, local)、OpenRouter (free-tier)、Cerebras (free-tier)
    摘要确定性利用图加免费层级联在十次自建运行上测得付费成本为零。

    PentestChain 是一个十阶段、经 MCP 暴露的自动渗透框架,用确定性利用图把 7B 本地模型挡在利用关键路径之外,并把每次交战的美元成本当作实测指标。。

    深度解读完整解读
  12. 其他arXiv 2609.22961

    当智能体信任跨越组织边界:结构外化与信任证据参考模型

    提出 TaaS 参考模型,规定跨组织智能体委托的可核验证据

    发表
    场景
    AI Agent
    摘要TaaS 用三条件诊断和信任证据信封,为跨域有界委托动作规定可核验、可质疑、可恢复的证据语义。

    Li 与 Xia 给出一份概念性的智能体跨域信任控制画像,称为 Trustworthiness as a Service(TaaS)。问题是:依赖方要接受、拒绝、审计、定价或质疑一次跨越行政信任边界的委托动作时,不能把生产域的日志或签名断言当作自己的证明。撤销、中断、记录冲突或争议之后,状态与质疑语义仍须可解释。

    深度解读完整解读
  13. 其他arXiv 2609.25413

    论文提议前沿 AI 开发者开展嵌入式评估

    主张开展嵌入式评估,审查内部智能体监控、权限与模型对齐

    发表
    场景
    AI Agent
    摘要论文建议前沿开发者现在就以接近员工的现场访问,持续审查内部监控、权限与对齐。

    嵌入式评估是一种第三方评估:独立评估者在前沿 AI 开发者现场获得接近员工的系统、人员与文档访问,用来审查依赖内部系统与实践的风险。

    深度解读完整解读
已经到底了