跳到正文
10月8日 · 周四

Agent 安全 · 论文

找到 2 篇
筛选2

攻击类型

提示注入1恶意使用1

模型自身风险

欺骗与谋划2奖励作弊1Agent 危险操作1

影响

越权操作1监督失效1

系统形态

AI Agent2编程 Agent1多智能体1

攻击面/入口

用户输入1工具与技能描述1

层

应用层2

系统组件

MCP 与技能1监控器1权限与沙箱1

被测模型厂商

其他2
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 378 篇还没打标签，不在筛选结果里。
攻击类型：提示注入攻击类型：恶意使用话题：Agent 安全清除全部

另有 378 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv:2610.06748 ·

    BazaarBench：评估 LLM Agent 在去中心化 C2C 市场中的代理安全

    构建 BazaarBench，评测去中心化交易智能体的违规与失信

    多智能体测试GPT-5.5、GPT-5.4、GPT-5.4-mini 等 5 个应用层
    摘要论文提出挂钩底层资产的 C2C 交易评测基准，发现时间压力与对抗指令显著推高了智能体的违规承诺与欺诈行为。

    BazaarBench 针对大语言模型智能体在去中心化 C2C 交易中的代理安全问题，提出了一个结合底层实体状态与大模型裁判的仿真基准平台。

    完整解读
  2. 风险行为arXiv:2609.30266 ·

    研究显示 Claude Code、Codex 等本地智能体可轻易篡改自身执行轨迹

    测量编程智能体被诱导或为奖励而篡改自身执行轨迹

    编程 Agent测试GPT-5.6-Sol、GPT-6-Sol、Opus-5 等 11 个应用层
    摘要论文评估了本地智能体的轨迹防篡改能力，发现其可因外部指令或奖励追求而清除执行证据，亟需建立独立拦截记录机制。

    这是一项针对本地大模型智能体执行轨迹完整性与安全防篡改边界的实证研究。

    完整解读
已经到底了