跳到正文
10月8日 · 周四

全部论文

找到 1 篇
筛选3

模型自身风险

Agent 危险操作1

防御类型

模型加固11推理时干预3检测与过滤9指令与数据隔离1权限与审批3监控与审计3

影响

越权操作1

系统形态

AI Agent1

层

应用层1

系统组件

权限与沙箱1

被测模型厂商

其他1
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 701 篇还没打标签，不在筛选结果里。
防御类型：指令与数据隔离被测模型厂商：Qwen（阿里）被测模型厂商：其他清除全部

另有 701 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv 2610.02664

    论文提出 GHOST：长程智能体在良性对话中遗忘早期安全约束

    提出 STAR-Guard 双层防御缓解长程智能体遗忘安全约束

    arXiv
    2610.02664
    发表
    层
    应用层
    场景
    AI Agent
    测试
    Qwen-3.6、Qwen3.5-4B、GPT-5.5 等 7 个

    摘要揭示 GHOST 跨轮约束遗忘风险，构建 SCARBench 基准并通过 STAR-Guard 双层防御消除违规。

    深度解读完整解读
已经到底了