跳到正文
10月10日 · 周六

全部论文

找到 85 篇
筛选2

模型自身风险

危险能力3

影响

有害内容3越权操作3输出被操纵4可用性与可靠性4

系统形态

模型与 API12LLM 应用15AI Agent58coding agent7science agent3多智能体7具身与机器人4

攻击面/入口

用户输入3

层

提示层6模型层27应用层79训练与数据层26基础设施层4

系统组件

MCP 与技能4记忆8监控器4权限与沙箱7视觉3多模态3
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 194 篇还没打标签，不在筛选结果里。
层：提示层层：应用层清除全部

另有 194 篇论文还没打上分类标签，暂不在筛选结果里。

  3. 其他arXiv 2610.09683

    System Switch 研究：快速决策模型何时应交由推理模型思考

    提出 System Switch，让快决策模型仅在门控打开时询问推理模型

    arXiv
    2610.09683
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    Laya, typed-decisions、Laya, base、Kev 9B 等 12 个
    摘要作者称快模型应按敏感度选。

    System Switch在不暂停的 Doom 里，让快的 typed-decision 模型做每一次决策，只在门控打开时把控制交给视觉推理模型。

    深度解读完整解读
  7. 其他arXiv 2610.08364

    Transect：为长程 LLM Agent 评测保留可观测性的开源工具

    提出 Transect，将长程 Agent 评测转录对齐到可回查的共享时间线

    arXiv
    2610.08364
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    Claude-Opus-4.7
    摘要Transect 把长转录收成可回查报告，案例中文稿与自审占主要 token。

    Transect 是基于 Inspect Scout 的转录分析包，用来在长程智能体评估里保住可回查的过程账户。

    深度解读完整解读
  8. 其他arXiv 2610.08884

    Task-Sufficient Contraction：机器信息接口的源选择方法

    定义任务充分收缩，认证用 GC 替换全信源后速率–遗憾曲线不变

    arXiv
    2610.08884
    发表
    层
    应用层
    场景
    LLM 应用
    摘要任务可在优化前定出压缩信源。

    任务充分收缩处理机器信息接口上的信源选择：已声明任务有时可以在编码器、码本、速率、失真目标或优化器选定之前，定出一个更小的信源。

    深度解读完整解读
  11. 其他arXiv 2610.07386

    NetAgent：面向多任务网络流量分析的智能体框架

    提出 NetAgent，编排工具完成多任务网络流量分析

    arXiv
    2610.07386
    发表
    层
    应用层
    场景
    AI Agent
    摘要NetAgent 编排工具做多任务流量分析。

    NetAgent 是一个多任务网络流量分析智能体框架。作者要让分析员用自然语言把分类、隧道检测和主机研判串成可重规划的工作流，而不为每个任务单独训练一个模型。

    深度解读完整解读
  12. 其他arXiv 2610.06563

    HERA 提出 harness 与环境协同演化

    提出 HERA，协同演化 harness 与环境以提升 Agent 拒答准确性

    arXiv
    2610.06563
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    GPT-5.6-Luna、GPT-5.6-Terra、GPT-5.6-Sol 等 20 个
    摘要HERA 用失败协同演化 harness 与环境，并在迁移评测中提高 Abstain。

    HERA 在模型权重固定时，让 harness 与可执行环境按失败协同演化，以改进 agentic abstention。

    深度解读完整解读
  15. 其他arXiv 2610.02662

    论文发现语言驱动机器人安全监控的细化缺口：安全高层计划可能产生不安全执行

    审计机器人安全监控的细化缺口，比较表面计划与图细化轨迹的裁决

    arXiv
    2610.02662
    发表
    层
    应用层
    场景
    具身与机器人
    摘要表面轨迹可漏掉图诱导的禁区进入。

    作者审计 RoboGuard 的一个假设：对高层动作轨迹的安全裁决，在补上语义图诱导的导航和已记录隐式效应之后是否仍然成立。做法是不改验证器，并固定同一条 LTL。

    深度解读完整解读
  18. 其他arXiv 2610.01195

    Federated Agent Optimization：面向隐私约束下分布式智能体协同优化的联邦智能体优化框架

    提出 FAO 框架，形式化隐私约束下的分布式智能体协同优化

    arXiv
    2610.01195
    发表
    层
    应用层
    场景
    AI Agent
    摘要FAO 把智能体协作写成效用、隐私和通信的多目标问题，并给出组件分类与迁移框架。

    Federated Agent Optimization（FAO） 是一篇框架论文：多个处在私有环境中的 LLM 智能体，如何在原始数据、完整轨迹和本地知识不离开客户端的前提下协作改进。

    深度解读完整解读
  19. 其他arXiv 2610.01045

    论文提出空承诺概念，衡量智能体承诺超出运行时能力的问题

    定义空承诺并给出单回合测量协议，按配置判定智能体承诺可否执行

    arXiv
    2610.01045
    发表
    层
    应用层
    场景
    AI Agent
    摘要空承诺由配置决定、说话当下可判。

    作者定义空承诺：智能体承诺回合结束后的行动，但在其工具与运行时下没有任何执行路径。空洞只由配置决定，不依赖后续轨迹。

    深度解读完整解读
加载更多