跳到正文
10月8日 · 周四

全部论文

找到 20 篇
筛选2

模型自身风险

奖励作弊1危险能力2幻觉与编造1

影响

数据与隐私泄露1

系统形态

模型与 API9LLM 应用1AI Agent10编程 Agent4

层

模型层3应用层9训练与数据层11基础设施层1

系统组件

MCP 与技能1记忆2图像生成2多模态2

被测模型厂商

Qwen（阿里）5其他8
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 1005 篇还没打标签，不在筛选结果里。
层：应用层层：训练与数据层清除全部

另有 1005 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 其他arXiv 2609.40360

    SCAPO：用反事实稳定性改进 GRPO 的 token 级信用分配

    提出 SCAPO，用半事实稳定性改进 GRPO 的 token 级信用分配

    arXiv
    2609.40360
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    Qwen3-4B-Base、Qwen3-1.7B-Base
    摘要SCAPO 在训练早期下调相对不稳定 token 的 GRPO 优势，两个规模上多数基准更高。

    SCAPO 把固定回答在半事实提示下的稳定性，变成 GRPO 训练早期的 token 级负向信用修正。。

    深度解读完整解读
  4. 其他arXiv 2607.28568

    Frontis-MA1：面向机器学习工程递归自我改进的 AI4AI 模型

    提出 OpenMLE 全栈，用执行反馈后训练机器学习元进化智能体

    arXiv
    2607.28568
    发表
    层
    训练与数据层
    场景
    编程 Agent
    测试
    Frontis-MA1-35B、Qwen3.6-35B-A3B、Frontis-MA1-30B 等 15 个
    摘要OpenMLE 训练 Frontis-MA1-35B，用四个共享算子把 MLE 后训练和长程搜索接成元进化闭环。

    作者提出全栈 OpenMLE，在机器学习工程里研究从进化到元进化的一步，并把递归自我改进视为更远目标。智能体要在延迟、有噪声的执行反馈下反复修改程序。作者认为公开系统很少同时提供可扩展环境、基于执行的后训练，以及部署该模型的长程进化搜索。

    深度解读完整解读
  8. 其他arXiv 2610.00812

    视频生成模型的后训练与对齐综述

    综述视频生成的后训练与对齐，并汇总基准与开放挑战

    arXiv
    2610.00812
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    Wan、HunyuanVideo、OpenSora 等 8 个
    摘要综述把视频后训练分成四类对齐信号，并指出奖励、长视频、权衡和安全仍开放。

    这是一篇视频生成 后训练与对齐 综述：预训练模型已有强先验，但作者认为仍不能可靠遵循意图、维持时间连贯或满足物理与安全约束。

    深度解读完整解读
  9. 其他arXiv 2610.00093

    自我演化智能体的安全性综述：SAVER 过渡中心框架

    提出 SAVER 框架综述自演化智能体的安全状态转移

    arXiv
    2610.00093
    发表
    层
    应用层
    场景
    AI Agent
    摘要SAVER 用状态转移追踪自演化安全：合法状态可经复用变不安全，后代修复证据仍少。

    SAVER 是一篇关于自演化智能体安全的转移中心综述：安全对象从单次回答或单次授权动作，转到可复用状态在多次转移中的谱系。

    深度解读完整解读
  10. 其他arXiv 2610.01195

    Federated Agent Optimization：面向隐私约束下分布式智能体协同优化的联邦智能体优化框架

    提出 FAO 框架，形式化隐私约束下的智能体协同优化

    arXiv
    2610.01195
    发表
    层
    应用层
    场景
    AI Agent
    摘要FAO 把智能体协作写成效用、隐私和通信的多目标问题，并给出组件分类与迁移框架。

    Federated Agent Optimization（FAO） 是一篇框架论文：多个处在私有环境中的 LLM 智能体，如何在原始数据、完整轨迹和本地知识不离开客户端的前提下协作改进。

    深度解读完整解读
  11. 其他arXiv 2610.02092

    TESS：面向大语言模型数据选择的可扩展可迁移元网络需换损失函数

    提出 TESS 与点值匹配损失，训练可迁移的数据选择网络

    arXiv
    2610.02092
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    Llama-3-8B-Instruct、Llama-3.1-8B-Instruct、Qwen2.5-7B-Instruct 等 5 个
    摘要TESS 用损失差伪标签和 PVM 训练可迁移选择网络，并在安全选择与指令微调上报告跨数据迁移。

    TESS 是一个用于 LLM 训练数据选择的元学习框架：用验证集引导下的损失差做样本伪标签，训练一个能给未见样本打分的选择网络。

    深度解读完整解读
  14. 其他arXiv 2402.00838

    OLMo：加速语言模型科学研究

    发布开放语言模型 OLMo、Dolma 数据与训练评测代码

    arXiv
    2402.00838
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    OLMo-1B、OLMo-7B、StableLM 1.6B 等 15 个
    摘要OLMo 开放 1B/7B 模型、Dolma 与训练评测工件。

    Allen Institute 发布 OLMo：一套从数据、训练到评测都公开的语言模型框架，用来支持对语言模型能力、弱点、偏见与风险的研究。

    深度解读完整解读
  16. 其他arXiv 2609.12039

    现实才是最终验证者：智能体软件工程的两大关键缺口

    提出双缺口框架统一智能体软件工程的奖励投机与幻觉

    arXiv
    2609.12039
    发表
    层
    应用层
    场景
    编程 Agent
    摘要双缺口解释内环为何会放行部署后不可接受的实现，外环用现实证据持续修订 R、M 与 E。

    Reality Is the Final Verifier 用 two-gap framework 解释智能体软件工程的主要失败，并主张用外层保证环持续收窄缺口，而不是试图在部署前证明缺口已关闭。

    深度解读完整解读
  17. 其他arXiv 2609.17380

    Open-1B：一次完全可审计的训练运行

    提出 RepOps，使分布式预训练可跨硬件按位复现并被审计

    arXiv
    2609.17380
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    Open-1B、OLMo 2 1B
    摘要Open-1B 用跨硬件按位算子和集体审计，把 400B token 预训练变成可分步核验的轨迹。

    Open-1B 是 Gensyn 发布的 1.61B 参数 decoder-only 模型，目标是把预训练从“公开配方”推进到每一步可在异构硬件上按位核对。浮点加法非结合、融合乘加、次正规数和平台相关随机数，使同一配方在不同机器上得不到同一权重。概率性的 proof-of-learning / proof-of-training-data 被作者认为不足以排除少量数据注入的后门。

    深度解读完整解读
  19. 其他arXiv 2609.26457

    Weco AI 提出 AIDE2：AI 研究智能体递归自我改进 8 天获七次提升

    提出双层自改进系统 AIDE2，让外层智能体重写内层 Harness 代码

    arXiv
    2609.26457
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    claude opus 4.7、gemini 3 flash、gemini 3.1 pro 等 6 个

    摘要提出双层递归自改进系统 AIDE2，在固定预算下演化 Harness 代码，多项留出基准超越人类基线并降低奖励黑客。

    深度解读完整解读
已经到底了