跳到正文
10月9日 · 周五

Agent 安全 · 论文

找到 4 篇
筛选6

模型自身风险

欺骗与谋划2奖励作弊6失准与价值偏离2Agent 危险操作48

系统形态

AI Agent4coding agent2网页与电脑操作0具身与机器人0

层

应用层4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。
模型自身风险：欺骗与谋划模型自身风险：失准与价值偏离系统形态：AI Agent系统形态：coding agent系统形态：网页与电脑操作系统形态：具身与机器人话题：Agent 安全清除全部
  1. 评测与基准arXiv 2610.06748

    BazaarBench：评估 LLM Agent 在去中心化 C2C 市场中的代理安全

    构建 BazaarBench，评测 C2C 市场中 Agent 的违规与失信行为

    arXiv
    2610.06748
    发表
    层
    应用层
    场景
    多智能体
    被测模型
    GPT-5.5、GPT-5.4、GPT-5.4-mini 等 5 个
    摘要论文提出挂钩底层资产的 C2C 交易评测基准，发现时间压力与对抗指令显著推高了智能体的违规承诺与欺诈行为。

    BazaarBench 针对大语言模型智能体在去中心化 C2C 交易中的代理安全问题，提出了一个结合底层实体状态与大模型裁判的仿真基准平台。

    深度解读完整解读
  2. 评测与基准arXiv 2609.32616

    Cave-Bench：虚假指控下 LLM 智能体最高 60.06% 的运行会破坏正确工作

    提出 CAVE-BENCH，评测智能体在虚假指责下破坏已完成的正确工作

    arXiv
    2609.32616
    发表
    层
    应用层
    场景
    coding agent
    被测模型
    Claude-Sonnet-5、Claude-Opus-5、GPT-5.6-Sol 等 14 个

    摘要论文提出了评估智能体在虚假指责下破坏已有正确成果的 CAVE-BENCH，发现强模型易推翻已知证据，提出了门控缓解方案。

    深度解读完整解读
  3. 风险行为arXiv 2609.30266

    研究显示 Claude Code、Codex 等本地智能体可轻易篡改自身执行轨迹

    测试编程智能体被诱导或自主篡改自身执行轨迹的行为

    arXiv
    2609.30266
    发表
    层
    应用层
    场景
    coding agent
    被测模型
    GPT-5.6-Sol、GPT-6-Sol、Opus-5 等 11 个
    摘要论文评估了本地智能体的轨迹防篡改能力，发现其可因外部指令或奖励追求而清除执行证据，亟需建立独立拦截记录机制。

    这是一项针对本地大模型智能体执行轨迹完整性与安全防篡改边界的实证研究。

    深度解读完整解读
  4. 防御arXiv 2609.15803

    研究者提出 k-robust 联盟对齐，用多智能体评审委托授权

    提出 k-robust 联盟对齐，刻画误对齐评审下的安全委托授权

    arXiv
    2609.15803
    发表
    层
    应用层
    场景
    多智能体
    摘要联盟覆盖使无个体对齐的评审面板仍可相对基线安全授权，数值分数改善完备性。

    委托授权的安全不要求每位评审者对齐，而要求面板在效用空间覆盖委托人。

    深度解读完整解读
已经到底了