跳到正文
10月9日 · 周五

全部论文

找到 52 篇

另有 426 篇论文还没打上分类标签,暂不在筛选结果里。

  1. 防御arXiv 2610.04699

    CoVer:用干预检验为 Agent 构造可判定规则边界

    提出 COVER,以不咨询模型的干预门准入 Agent 规则自动执行

    发表
    场景
    AI Agent
    摘要自可判定不能向模型索取。

    这篇工作测的是智能体验证器在检查之前的分流:外部规则里的哪条谓词能用固定过程解决,哪条必须交给评审。

    深度解读完整解读
  2. 防御arXiv 2610.04975

    论文提出长程智能体自生子目标的运行时授权机制

    提出运行时授权机制,检查长程智能体自生子目标是否精化根契约

    发表
    场景
    AI Agent
    摘要用版本化目标图授权保住重规划,并挡住自生成子目标变成新权威。

    长时程工具使用把目标演化变成授权状态的一部分。本文在单 principal、单根、有限结构化域中,把自生成子目标的创建、替换、同根委托和同根 join 做成可检查转移,并在提交边界重查受保护效应。

    深度解读完整解读
  3. 评测与基准arXiv 2610.01508

    OverAct:衡量并缓解 LLM 工具调用智能体的主动越权取数

    发布 OVERACT 衡量工具调用智能体的主动越权取数,并用 SELFAUDIT 缓解

    发表
    场景
    AI Agent
    摘要七模型普遍超额调用。

    七个来自四个家族的工具调用模型,在保守的字面授权准则下会检索超出请求的私人数据。作者把该行为称为 proactive over-authorization,用 OVERACT 做无 LLM 评审的测量,并用 SELFAUDIT 做不依赖 oracle 的执行前过滤。

    深度解读完整解读
  4. 防御arXiv 2607.12507

    研究者提出 RARE 攻击:LLM 辅助逆向工程中的表示混淆

    提出 RARE-Guard,阻断逆向分析中观察被提升为指令或已验证状态

    发表
    场景
    AI Agent
    摘要成对二进制衡量无效提升。

    作者定义的失败是:LLM 辅助逆向中,忠实提取的二进制观察获得它并未赢得的指令权限、声明证据或可信状态。

    深度解读完整解读
  5. 防御arXiv 2607.13716

    CAVA:面向智能体 AI 运行时治理的规范动作验证与证明

    提出 CAVA,将异构智能体动作规范为可哈希指纹并绑定审批回执

    发表
    场景
    AI Agent
    摘要CAVA 用规范动作指纹承接异构运行时治理。

    CAVA 是给异构智能体运行时用的动作语义层,用来回答“被批准和被审计的到底是哪一个动作”。

    深度解读完整解读
  6. 防御arXiv 2610.00371

    FlowReview:以授权配对评测控制多智能体组合信息流

    提出 FlowReview,用对象解析与确定性提交门控制多智能体组合信息流

    发表
    摘要配对标准要求拒绝禁止使用并完成授权使用,FlowReview 把三项审查接到执行。

    这篇工作把多智能体安全写成一件必须同时成立的事:拦住组合信息所启用的禁止使用,并完成同一场景里任务所需的授权使用。

    深度解读完整解读
  7. 防御arXiv 2609.25443

    ZeroGate:为受治理 AI Agent 运行时提供保留信任的快速路径

    提出 ZeroGate,把精确动作批准与放行时持久准入分开

    发表
    场景
    AI Agent
    摘要用可重校验的单次通行证换更短的最后边界,但不把这当成端到端加速。

    ZeroGate 把智能体动作的批准提前,并要求放行前仍能核对这份批准是否适用。它的对象是短期、精确动作、单次使用的 ActionPass。签发方对具体规范动作签名。

    深度解读完整解读