跳到正文
10月9日 · 周五

开源模型安全 · 论文

找到 6 篇
筛选3

模型自身风险

危险能力1

影响

有害内容1

系统形态

模型与 API5AI Agent1编程 Agent1多智能体0

层

提示层1模型层1训练与数据层4

被测模型厂商

其他6
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 62 篇还没打标签，不在筛选结果里。
系统形态：模型与 API系统形态：编程 Agent系统形态：多智能体话题：开源模型安全清除全部

另有 62 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 其他arXiv 2607.28568

    Frontis-MA1：面向机器学习工程递归自我改进的 AI4AI 模型

    提出 OpenMLE 全栈，用执行反馈后训练机器学习元进化智能体

    arXiv
    2607.28568
    发表
    层
    训练与数据层
    场景
    编程 Agent
    测试
    Frontis-MA1-35B、Qwen3.6-35B-A3B、Frontis-MA1-30B 等 15 个
    摘要OpenMLE 训练 Frontis-MA1-35B，用四个共享算子把 MLE 后训练和长程搜索接成元进化闭环。

    作者提出全栈 OpenMLE，在机器学习工程里研究从进化到元进化的一步，并把递归自我改进视为更远目标。智能体要在延迟、有噪声的执行反馈下反复修改程序。作者认为公开系统很少同时提供可扩展环境、基于执行的后训练，以及部署该模型的长程进化搜索。

    深度解读完整解读
  3. 其他arXiv 2402.00838

    OLMo：加速语言模型科学研究

    发布开放语言模型 OLMo、Dolma 数据与训练评测代码

    arXiv
    2402.00838
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    OLMo-1B、OLMo-7B、StableLM 1.6B 等 15 个
    摘要OLMo 开放 1B/7B 模型、Dolma 与训练评测工件。

    Allen Institute 发布 OLMo：一套从数据、训练到评测都公开的语言模型框架，用来支持对语言模型能力、弱点、偏见与风险的研究。

    深度解读完整解读
  5. 其他arXiv 2609.17380

    Open-1B：一次完全可审计的训练运行

    提出 RepOps，使分布式预训练可跨硬件按位复现并被审计

    arXiv
    2609.17380
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    Open-1B、OLMo 2 1B
    摘要Open-1B 用跨硬件按位算子和集体审计，把 400B token 预训练变成可分步核验的轨迹。

    Open-1B 是 Gensyn 发布的 1.61B 参数 decoder-only 模型，目标是把预训练从“公开配方”推进到每一步可在异构硬件上按位核对。浮点加法非结合、融合乘加、次正规数和平台相关随机数，使同一配方在不同机器上得不到同一权重。概率性的 proof-of-learning / proof-of-training-data 被作者认为不足以排除少量数据注入的后门。

    深度解读完整解读
已经到底了