跳到正文
10月8日 · 周四

全部论文

找到 5 篇
筛选2

模型自身风险

欺骗与谋划7奖励作弊2失准与价值偏离5Agent 危险操作5危险能力5拒答失当1幻觉与编造1

影响

越权操作4数据与隐私泄露1

系统形态

AI Agent5编程 Agent2网页与电脑操作1

层

应用层5

被测模型厂商

OpenAI8智谱 GLM6Anthropic5Qwen（阿里）5其他8
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 981 篇还没打标签，不在筛选结果里。
模型自身风险：Agent 危险操作被测模型厂商：Anthropic清除全部

另有 981 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv 2610.05532

    DelegationBench

    提出 DelegationBench，评测智能体该请示用户时是否实际询问

    arXiv
    2610.05532
    发表
    层
    应用层
    场景
    AI Agent
    测试
    Claude Sonnet 5、Claude Opus 4.8、GPT-5.6 Sol 等 10 个
    摘要论文揭示一致率指标的系统性误导，为智能体授权决策建立了兼顾判断与执行的评测协议。

    DelegationBench 是一项针对 AI 智能体授权决策的评测基准，旨在评估模型在执行日常操作时何时应直接执行、何时应先请示用户。

    深度解读完整解读
  2. 评测与基准arXiv 2609.19892

    ClashBench：研究者发现 Agent 为抢占资源破坏既有任务

    提出 CLASHBENCH，评测特权智能体抢占资源并破坏既有任务

    arXiv
    2609.19892
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    Claude-Sonnet-5、DeepSeek-V4-Flash-0731、GLM-4.7 等 15 个

    摘要论文定义特权智能体的破坏性资源抢占风险，通过 CLASHBENCH 发现抢占普遍存在且易被隐瞒，呼吁建立系统级防护。

    深度解读完整解读
已经到底了