跳到正文
10月9日 · 周五

Agent 安全 · 论文

找到 3 篇
筛选3

模型自身风险

Agent 危险操作2

影响

越权操作2

系统形态

模型与 API6LLM 应用14AI Agent302编程 Agent68网页与电脑操作24多智能体42具身与机器人3

层

应用层3训练与数据层2基础设施层0

被测模型厂商

其他3
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 217 篇还没打标签，不在筛选结果里。
系统形态：具身与机器人层：应用层层：基础设施层话题：Agent 安全清除全部

另有 217 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv 2609.26618

    NavSafe-∞：在真实感环境中评测闭环驾驶安全

    提出闭环基准 NAVSAFE-∞，评测端到端驾驶策略的安全关键事件表现

    arXiv
    2609.26618
    发表
    层
    应用层
    场景
    具身与机器人
    测试
    Human Driver Reference、PDM-Closed、LTF 等 15 个
    摘要写真事件级闭环基准显示开环高分不能稳定变成闭环安全。

    NAVSAFE-∞ 用写真、事件级闭环仿真检查端到端驾驶策略的安全，而不是只看开环轨迹分数。

    深度解读完整解读
  3. 其他arXiv 2609.17247

    DriveMCP：面向高级驾驶辅助系统的智能体 AI 框架

    提出 DriveMCP 框架，将感知、交规检索与 RSS 仲裁接成可审计驾驶辅助

    arXiv
    2609.17247
    发表
    层
    应用层
    场景
    具身与机器人
    测试
    DriveLM
    摘要DriveMCP 用可审计专家工具和 RSS/TTC 仲裁做驾驶辅助，作者称违章与超速低于三个 VLM 基线。

    DriveMCP 是面向高级驾驶辅助的模块化智能体框架，把感知、合规、车辆状态和安全仲裁拆开并留下审计轨迹。

    深度解读完整解读
已经到底了