跳到正文
10月10日 · 周六

全部论文

找到 11 篇
筛选5
同一类里任选其一,不同类之间同时满足;数字是加上其他已选条件后的篇数。另有 232 篇还没打标签,不在筛选结果里。

另有 232 篇论文还没打上分类标签,暂不在筛选结果里。

  1. 评测与基准arXiv 2610.11773

    研究提出 Agent 安全新维度:识别未履行的安全义务

    提出义务识别基准 ObligationBench,并训练护栏识别 Agent 未履行的安全义务

    发表
    被测模型
    ObligationGuard、Claude-Opus-4.8、GPT-5.6-Sol 等 17 个
    摘要义务是护栏缺口。

    作者认为编码智能体的安全不能只靠拦截禁止动作,还要找出终止时仍未做的安全关键动作,并将其称为义务。

    深度解读完整解读
  2. 评测与基准arXiv 2610.03434

    Persona Guardrail:面向智能体系统的生产级防御框架

    提出 Persona Guardrail,强制客服智能体守住功能边界

    发表
    场景
    AI Agent
    攻击者
    黑盒
    被测模型
    Qwen3-30B-A3B、Qwen3-VL-30B、Qwen3-8B 等 5 个
    摘要Persona Guardrail 用功能边界做同步输入输出校验,并在 PAGE 与生产延迟预算下给出评测。

    Persona Guardrail 是客服向智能体的同步运行时防御:先写明功能边界,再决定放行或拦截,而不是只检测某一攻击类。

    深度解读完整解读
  3. 评测与基准arXiv 2610.03448

    研究重测 15 个提示注入检测器:基准分数难以预测 Agent 部署表现

    重测提示注入检测器在 Agent 工具输出上的检出与任务阻断

    发表
    场景
    AI Agent
    被测模型
    Horizon-Labs、Wolf Defender、Prismor-1.5B 等 15 个

    摘要论文揭示公开基准无法反映智能体检测器表现,检测能力源于输入格式相似而非通用防御,建议基于工具输出与低误报评测。

    深度解读完整解读
  4. 评测与基准arXiv 2609.34862

    JEV 作为智能体轨迹安全评判器:与生成式 LLM 评判器的实证对比

    对比类型化评审与生成式评审对智能体轨迹的安全判定

    发表
    场景
    AI Agent
    被测模型
    JEV、GLM-5.2-Tencent、DeepSeek-V4-Flash 等 5 个
    摘要JEV 的四基准平均正类 F1 最高,延迟和估计费用更低,但分数据集与精确率有取舍。

    在已保存的工具使用智能体轨迹上,比较类型化评审 JEV 与四种生成式评审的回溯安全分类。

    深度解读完整解读
  5. 研究实测五套 Agent 记忆系统均不执行撤销标记

    评测 Agent 记忆系统的软撤回执行情况,并提出陈旧检索防护

    发表
    场景
    AI Agent
    被测模型
    GPT-5.5、Grok-4、DeepSeek-V4-Flash 等 9 个

    摘要系统揭示了记忆系统软撤回在检索时普遍未执行的安全漏洞,证明写回会击穿现有防御,并提出读取端防护作为必要控制手段。

    深度解读完整解读
  6. CONFLICTGUI 基准与 CONFLICTGUARD 框架:让多模态 GUI Agent 学会在冲突指令下终止执行

    提出 ConflictGuard,引导 GUI Agent 在冲突指令下终止执行

    发表
    被测模型
    UI-Venus-1.5-8B、UI-TARS-1.5-7B、OS-Atlas-Base-7B 等 10 个
    摘要ConflictGUI 暴露 GUI 智能体的执行偏向过度服从,ConflictGuard 用条件转向提高冲突终止率。

    ConflictGuard用推理时的可行性核验和条件激活转向,让 GUI 智能体在指令不可行时终止,而不是盲执行。

    深度解读完整解读
  7. 评测与基准arXiv 2606.22673

    Agent MechSuits:面向多轮 CLI Agent 的机制子空间安全引导

    提出 Agent MechSuits,对多轮 CLI Agent 做步级检测与子空间转向

    发表
    被测模型
    LLaMA-3.1-8B、Qwen-2.5-7B、Gemma-2-9B
    摘要白盒步级探针加稀疏转向可压低三模型恶意动作,同时提高生成崩溃率。

    Agent MechSuits 是面向多轮 CLI 智能体的白盒、步级表示防御,并配有可执行轨迹基准 MAS。

    深度解读完整解读
  8. 评测与基准arXiv 2606.21155

    研究评测法律引用幻觉检测

    构建法律引用幻觉基准 LePhantomCite 并评测智能体核验

    发表
    场景
    AI Agent
    被测模型
    gpt-5-2025-08-07、Opus 4.8、Gemini 2.5 Flash 等 13 个
    摘要引用幻觉未随代际持续下降。

    法律引用核验被做成基准:伪造引用的法院文书在增加,生成端的幻觉率也没有随模型代际持续下降。

    深度解读完整解读
  9. TraceSafe-Bench:评估 LLM 护栏在多步工具调用轨迹上的表现

    提出 TRACE SAFE-BENCH,静态评测多步工具调用轨迹上的护栏

    发表
    场景
    AI Agent
    被测模型
    GPT-5 mini、GPT-5.4 mini、Gemini3-Flash 等 15 个
    摘要TRACE SAFE-BENCH 用可控变异评轨迹护栏,结构能力比规模和越狱鲁棒性更相关。

    TRACE SAFE-BENCH 用固定的多步工具轨迹评护栏,问的是不安全动作到达环境之前能否被拦住,而不是智能体自己会不会拒绝。

    深度解读完整解读
  10. 评测与基准arXiv 2601.10156

    ToolSafe 提出步骤级护栏 TS-Guard 与 TS-Flow,降低 Agent 有害工具调用

    提出 TS-Guard 与 TS-Flow,在执行前检测并引导 Agent 修正有害工具调用

    发表
    场景
    AI Agent
    被测模型
    GPT-4o、TS-Guard、Qwen2.5-14B-Instruct
    摘要TS-Bench 标步骤级风险,TS-Guard 用多任务 RL 做执行前判定,TS-Flow 用反馈代替直接中止。

    ToolSafe 研究 LLM 智能体在工具执行前的步骤级安全:基准 TS-Bench、护栏 TS-Guard,以及反馈驱动框架 TS-Flow。

    深度解读完整解读
已经到底了