跳到正文
10月8日 · 周四

全部论文

找到 4 篇
筛选3

模型自身风险

失准与价值偏离1Agent 危险操作3

防御类型

指令与数据隔离1权限与审批2

影响

越权操作4

系统形态

AI Agent4多智能体1

层

应用层4

系统组件

MCP 与技能1记忆6护栏与评审1监控器1权限与沙箱4视觉1音频1多模态2

被测模型厂商

其他4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 717 篇还没打标签，不在筛选结果里。
模型自身风险：失准与价值偏离模型自身风险：Agent 危险操作系统组件：权限与沙箱清除全部

另有 717 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv 2610.02664

    论文提出 GHOST：长程智能体在良性对话中遗忘早期安全约束

    提出 STAR-Guard 双层防御缓解长程智能体遗忘安全约束

    arXiv
    2610.02664
    发表
    层
    应用层
    场景
    AI Agent
    测试
    GPT-5.5、DeepSeek-V4-Pro、GLM-5.2 等 7 个

    摘要揭示 GHOST 跨轮约束遗忘风险，构建 SCARBench 基准并通过 STAR-Guard 双层防御消除违规。

    深度解读完整解读
  2. 评测与基准arXiv 2609.35799

    研究者复现 OpenAI-HuggingFace 事件中的失准行为，并提出自动化对齐测试方法

    在模拟环境中复现级联失准行为并降低审计诱导开销

    arXiv
    2609.35799
    发表
    层
    应用层
    场景
    AI Agent
    测试
    GLM 5.2、GLM 5.3、Kimi K3 等 9 个

    摘要论文复现了 OpenAI–HF 事件四步失准行为，作者报告高阶描述结合算力可自动诱导，并展示了 RL 降本潜力。

    深度解读完整解读
  3. 评测与基准arXiv 2608.07556

    MasDrift：跨多智能体架构的授权保持基准

    用 MasDrift 评测多智能体架构的授权保持

    arXiv
    2608.07556
    发表
    层
    应用层
    场景
    多智能体
    测试
    DeepSeek V4 Flash、Qwen3.7 Plus、GPT-5.4 Nano 等 6 个
    摘要授权保持可被测量：层级用未授权动作换完成率，重锚定比沿链携带更稳。

    MasDrift 把多智能体设计中的授权保持做成可测量性质，对象是没有攻击者的普通委托。

    深度解读完整解读
  4. 评测与基准arXiv 2609.26900

    Ajar：在 AgentDojo 上测量 Agent 防御中未关闭的权限

    提出 Ajar，测量 Agent 防御放行任务不需要的工具调用

    arXiv
    2609.26900
    发表
    层
    应用层
    场景
    AI Agent
    测试
    Sonnet-5、Haiku-4.5、Sonnet-4.5
    摘要Ajar 用宿主基准的真值给防御的开放权限打分，OPL 独立于攻击成功和效用。

    Ajar 量的是智能体防御留下的开放权限：任务不需要、但防御仍会允许的工具调用。

    深度解读完整解读
已经到底了