跳到正文
10月9日 · 周五

OpenAI · 论文

找到 5 篇
筛选5

攻击类型

恶意使用1

攻击技术

多轮渐进1

模型自身风险

Agent 危险操作1危险能力3拒答失当1

影响

有害内容13越权操作13数据与隐私泄露7输出被操纵3可用性与可靠性2监督失效7滥用能力提升3

系统形态

AI Agent5编程 Agent3

攻击者权限

黑盒1

攻击面/入口

用户输入1

层

提示层0模型层0应用层5

系统组件

MCP 与技能1

被测模型厂商

OpenAI5其他4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 26 篇还没打标签，不在筛选结果里。
影响：可用性与可靠性影响：滥用能力提升层：提示层层：模型层层：应用层话题：OpenAI清除全部

另有 26 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 攻击arXiv 2609.15383

    微软团队提出 capability laundering 攻击：弱模型拆分任务向对齐前沿模型套取能力

    提出能力洗钱攻击，让未对齐编排器拆分任务向对齐模型套取能力

    arXiv
    2609.15383
    发表
    层
    应用层
    场景
    编程 Agent
    攻击者
    黑盒
    测试
    GPT-5.5、Claude Opus 4.8、Grok-4.3 等 7 个

    摘要作者提出了能力洗钱攻击，发现未对齐编排器分解咨询对齐模型可恢复能力差距，指出需建立跨会话防御。

    深度解读完整解读
  4. 评测与基准arXiv 2609.33658

    AgentBound：面向工具型 LLM Agent 安全的四路反事实评测框架

    提出四向反事实评测，测量工具 Agent 对授权与表面风险的行动边界

    arXiv
    2609.33658
    发表
    层
    应用层
    场景
    AI Agent
    测试
    GPT-5.5、Claude Opus 4.8、Gemini 3.5 Flash 等 15 个
    摘要四向反事实基准把过度拒绝和未授权遵从拆开，Thought 校正在十个配置上提高已授权完成。

    AGENT BOUNDARY 是面向工具使用 LLM 智能体的四向可执行反事实评测，并附带一个决策时 Thought 校准模块。

    深度解读完整解读
  5. 风险行为arXiv 2609.35381

    研究：MCP 错误信息面向开发者，能力越强的 Agent 受损越大

    评测 MCP 错误文本对工具调用 Agent 任务恢复的影响

    arXiv
    2609.35381
    发表
    层
    应用层
    场景
    AI Agent
    测试
    GPT-5.5、GPT-5.6 Sol、GPT-6 Sol 等 5 个
    摘要面向开发者的 MCP 错误步骤会让只能调用工具的智能体停手。

    MCP 错误信息里的下一步常常按人类开发者来写，而只能调用服务器工具的智能体会照着做。做不到就结束回合。作者先统计这类文本，再在 BFCL V4 上只更换错误文本，看回合状态能否回到参考调用之后。

    深度解读完整解读
已经到底了