跳到正文
10月10日 · 周六

全部论文

找到 109 篇
筛选3

模型自身风险

危险能力5

影响

越权操作3输出被操纵3可用性与可靠性5

系统形态

模型与 API27LLM 应用15AI Agent67coding agent11science agent5多智能体7具身与机器人5

层

提示层6模型层27应用层79训练与数据层26基础设施层4

系统组件

MCP 与技能4记忆8监控器4权限与沙箱8多模态4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 193 篇还没打标签，不在筛选结果里。
层：应用层层：训练与数据层层：基础设施层清除全部

另有 193 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 其他arXiv 2610.11959

    MiMo-V2.6：通过扩展强化学习迈向自我改进

    扩展全模态基座的强化学习以支撑智能体自我改进

    arXiv
    2610.11959
    发表
    层
    训练与数据层
    场景
    coding agent
    被测模型
    MiMo-V2.6-Pro、MiMo-V2.6-Flash、MiMo-V2.6-Distill-Qwen-9B
    摘要系列用三维扩 RL 与分组评分提升智能体分数，作者称最终表现与前沿模型相当。

    MiMo-V2.6 是全模态 MoE 技术报告，用扩大 RL 计算、环境和评分来追求智能体自我改进。

    深度解读完整解读
  4. 其他arXiv 2610.10064

    研究者提出理解审计机制，以缓解自动化 AI 研究带来的风险

    提出 comprehension audits，以人类理解证据作为继续研发门槛

    arXiv
    2610.10064
    发表
    层
    训练与数据层
    场景
    science agent
    摘要理解审计把出示人类理解设为继续研发的门禁，并报告开源评审评论率下降。

    本文是一份研发过程保障提案：用 comprehension audits 检验责任人是否理解 AI 参与产生的研发贡献，未达标就暂停后续开发与依赖该贡献的发布。。

    深度解读完整解读
  5. 其他arXiv 2610.09683

    System Switch 研究：快速决策模型何时应交由推理模型思考

    提出 System Switch，让快决策模型仅在门控打开时询问推理模型

    arXiv
    2610.09683
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    Laya, typed-decisions、Laya, base、Kev 9B 等 12 个
    摘要作者称快模型应按敏感度选。

    System Switch在不暂停的 Doom 里，让快的 typed-decision 模型做每一次决策，只在门控打开时把控制交给视觉推理模型。

    深度解读完整解读
  6. 其他arXiv 2610.08740

    Kosoy 提出鲁棒老虎机多项式时间学习器，推进 AI 对齐

    给出线性 robust bandits 特例的多项式时间学习者并证明小推广 NP-hard

    arXiv
    2610.08740
    发表
    层
    训练与数据层
    场景
    模型与 API
    摘要欧氏球仿射特例可多项式时间达到Õ(√T)。

    这是一篇关于不可实现 bandit 学习之计算边界的理论工作：线性 robust bandits 的一个欧氏球仿射特例有多项式时间、Õ(√T)遗憾的学习者，再做小推广就会落到复杂性坍塌。

    深度解读完整解读
  8. 其他arXiv 2610.08364

    Transect：为长程 LLM Agent 评测保留可观测性的开源工具

    提出 Transect，将长程 Agent 评测转录对齐到可回查的共享时间线

    arXiv
    2610.08364
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    Claude-Opus-4.7
    摘要Transect 把长转录收成可回查报告，案例中文稿与自审占主要 token。

    Transect 是基于 Inspect Scout 的转录分析包，用来在长程智能体评估里保住可回查的过程账户。

    深度解读完整解读
  9. 其他arXiv 2610.08884

    Task-Sufficient Contraction：机器信息接口的源选择方法

    定义任务充分收缩，认证用 GC 替换全信源后速率–遗憾曲线不变

    arXiv
    2610.08884
    发表
    层
    应用层
    场景
    LLM 应用
    摘要任务可在优化前定出压缩信源。

    任务充分收缩处理机器信息接口上的信源选择：已声明任务有时可以在编码器、码本、速率、失真目标或优化器选定之前，定出一个更小的信源。

    深度解读完整解读
  12. 其他arXiv 2610.07386

    NetAgent：面向多任务网络流量分析的智能体框架

    提出 NetAgent，编排工具完成多任务网络流量分析

    arXiv
    2610.07386
    发表
    层
    应用层
    场景
    AI Agent
    摘要NetAgent 编排工具做多任务流量分析。

    NetAgent 是一个多任务网络流量分析智能体框架。作者要让分析员用自然语言把分类、隧道检测和主机研判串成可重规划的工作流，而不为每个任务单独训练一个模型。

    深度解读完整解读
  13. 其他arXiv 2610.06563

    HERA 提出 harness 与环境协同演化

    提出 HERA，协同演化 harness 与环境以提升 Agent 拒答准确性

    arXiv
    2610.06563
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    GPT-5.6-Luna、GPT-5.6-Terra、GPT-5.6-Sol 等 20 个
    摘要HERA 用失败协同演化 harness 与环境，并在迁移评测中提高 Abstain。

    HERA 在模型权重固定时，让 harness 与可执行环境按失败协同演化，以改进 agentic abstention。

    深度解读完整解读
  18. 其他arXiv 2610.02662

    论文发现语言驱动机器人安全监控的细化缺口：安全高层计划可能产生不安全执行

    审计机器人安全监控的细化缺口，比较表面计划与图细化轨迹的裁决

    arXiv
    2610.02662
    发表
    层
    应用层
    场景
    具身与机器人
    摘要表面轨迹可漏掉图诱导的禁区进入。

    作者审计 RoboGuard 的一个假设：对高层动作轨迹的安全裁决，在补上语义图诱导的导航和已记录隐式效应之后是否仍然成立。做法是不改验证器，并固定同一条 LTL。

    深度解读完整解读
  19. 其他arXiv 2610.02092

    TESS：面向大语言模型数据选择的可扩展可迁移元网络需换损失函数

    提出 TESS 与点值匹配损失，训练可迁移的数据选择网络

    arXiv
    2610.02092
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    Llama-3-8B-Instruct、Llama-3.1-8B-Instruct、Qwen2.5-7B-Instruct 等 4 个
    摘要TESS 用损失差伪标签和 PVM 训练可迁移选择网络，并在安全选择与指令微调上报告跨数据迁移。

    TESS 是一个用于 LLM 训练数据选择的元学习框架：用验证集引导下的损失差做样本伪标签，训练一个能给未见样本打分的选择网络。

    深度解读完整解读
加载更多