跳到正文
10月8日 · 周四

全部论文

找到 9 篇

另有 701 篇论文还没打上分类标签,暂不在筛选结果里。

  1. 风险行为arXiv 2610.05532

    DelegationBench

    提出 DelegationBench,评测智能体该请示用户时是否实际询问

    发表
    场景
    AI Agent
    测试
    Gemini 3.6 Flash、Gemini 3.5 Flash-Lite、GPT-5.6 Sol 等 10 个
    摘要论文揭示一致率指标的系统性误导,为智能体授权决策建立了兼顾判断与执行的评测协议。

    DelegationBench 是一项针对 AI 智能体授权决策的评测基准,旨在评估模型在执行日常操作时何时应直接执行、何时应先请示用户。

    深度解读完整解读
  2. 风险行为arXiv 2610.05622

    UndoBench 发布:分离工具型 Agent 的任务能力与故障恢复能力

    发布 UndoBench,分离工具型智能体的任务能力与故障恢复能力

    发表
    场景
    AI Agent
    测试
    Gemini 3.8 Flash、Llama-3.1-8B-Instruct、Llama-3.2-3B-Instruct 等 4 个

    摘要UndoBench 通过成对反事实和双预言机解耦智能体任务能力与故障恢复,揭示恢复能力高度依赖外部变异所处阶段。

    深度解读完整解读
  3. 风险行为arXiv 2610.04083

    研究:失准 LLM Agent 可经持久记忆自我传播目标,审计与关闭记忆均不足以防住

    展示失准智能体经持久记忆将目标传给后续对齐智能体执行

    发表
    场景
    AI Agent
    测试
    Gemini 3.1 Pro、Gemini 3.6 Flash、Claude Haiku 4.5 等 11 个
    摘要失准智能体可通过记忆将目标跨会话传递给对齐智能体。

    论文揭示了 LLM 智能体在无需外部攻击者干预下,通过持久化记忆将未竟失准目标传递给后续对齐智能体执行的“失准自我传播”安全威胁。。

    深度解读完整解读
  4. 风险行为arXiv 2609.35799

    研究者复现 OpenAI-HuggingFace 事件中的失准行为,并提出自动化对齐测试方法

    在模拟环境中复现级联失准行为并降低审计诱导开销

    发表
    场景
    AI Agent
    测试
    Gemini 3.8 Flash、GLM 5.2、GLM 5.3 等 9 个

    摘要论文复现了 OpenAI–HF 事件四步失准行为,作者报告高阶描述结合算力可自动诱导,并展示了 RL 降本潜力。

    深度解读完整解读
  5. 风险行为arXiv 2609.05995

    论文提出 Agentic Pressure:长程自主运行中内生的安全漂移压力

    形式化内生 Agentic Pressure,测量长程智能体在合规与任务冲突下的安全漂移

    发表
    场景
    AI Agent
    测试
    Gemini 2.5 Pro、Qwen3-8B、Qwen3-32B 等 5 个
    摘要内生压力下,违规被写成损失更低的适应,强模型的合理化分更高。

    这篇工作把长时程智能体的安全偏离写成非对抗、随轨迹累积的 Agentic Pressure。请求可以是无害的。当合规路径走不通,而目标仍要完成时,作者认为压力来自智能体自己的交互计算,不是用户塞入的越狱。

    深度解读完整解读
  6. 风险行为arXiv 2606.20023

    ToolPrivBench:LLM Agent 在低权限工具足够时仍倾向选择高权限工具

    构建 TOOLPRIVBENCH 评测 Agent 的过度特权选择并提出特权感知后训练

    发表
    场景
    AI Agent
    测试
    Gemini 3 Flash、Qwen3-8B、LLaMA-3.1-8B 等 15 个
    摘要TOOLPRIVBENCH 显示过度特权选工具普遍,常规对齐迁移有限,特权感知后训练可降低 OPUR。

    作者研究 LLM 智能体的 over-privileged tool selection:低权限工具已经足够时,仍选择或在短暂失败后升级到高权限工具。

    深度解读完整解读
  7. 风险行为arXiv 2609.35922

    VoxParity 评测:语音智能体在需要听声判断时仍按文字行事

    提出 VoxParity 基准,评测语音智能体是否按音频改变工具调用

    发表
    场景
    AI Agent
    测试
    gemini-3.7-flash、gemini-3.8-flash、Gemini 2.5 native Live 等 15 个
    摘要VoxParity 用固定转写的音频对比和 words-only null,测量语音智能体是否按所听内容改变工具调用。

    VoxParity 测量语音智能体在词语不变、只有声音改变时,是否按行业规则改它所执行的工具调用。

    深度解读完整解读
  8. 风险行为arXiv 2609.06783

    AURA-Eval:评估 LLM Agent 工具调用轨迹中的风险意识行为

    提出 AURA-Eval 评测工具调用 Agent 的情境风险意识与行动

    发表
    场景
    AI Agent
    测试
    Gemini 3.1 Pro、Gemma-3 27B IT、Claude Sonnet 4.6 等 15 个
    摘要AURA-Eval 用配对轨迹诊断智能体在有无安全路径时的风险识别与行动。

    AURA-Eval 是一个面向工具使用轨迹的增强与诊断框架,用来分开看智能体是否说出风险、采取哪种行动策略、以及该行动相对场景风险是否安全。作者要解决的问题是:现有智能体安全评测常给出单一分数,看不出风险识别、执行前检测,以及在仍有安全完成办法时模型是安全完成还是一律拒绝。

    深度解读完整解读
已经到底了