跳到正文
10月8日 · 周四

OpenAI · 论文

找到 4 篇
筛选2

攻击类型

越狱1提示注入3投毒与后门1

攻击技术

潜伏触发1

影响

有害内容1越权操作2数据与隐私泄露1

系统形态

模型与 API1AI Agent3编程 Agent3多智能体1

攻击面/入口

用户输入1工具与技能描述3代码仓库与依赖3记忆写入3Agent 间消息1分发渠道1

层

提示层1应用层3

系统组件

MCP 与技能2记忆1护栏与评审1权限与沙箱1

被测模型厂商

其他4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 31 篇还没打标签，不在筛选结果里。
攻击面/入口：用户输入攻击面/入口：代码仓库与依赖话题：OpenAI清除全部

另有 31 篇论文还没打上分类标签，暂不在筛选结果里。

  3. 评测与基准arXiv:2607.14611 ·

    论文评测 Claude Code 与 Codex 记忆文件中的提示注入风险

    评测编码智能体记忆文件中的提示注入及其跨会话持久性

    编程 Agent测试Claude Haiku 4.5、Claude Opus 4.7、GPT-5.2 等 4 个应用层
    摘要已植入记忆文件的载荷可以跨会话影响 Claude Code 与 Codex，攻击成功与载荷是否留下是两种不同的失败。

    Bad Memory 在沙箱合成工作区里评测文件型持久记忆上的提示注入，比较载荷能否改变当前会话，以及能否在后续会话中留下或叠加。

    完整解读
  4. 评测与基准arXiv:2608.03070 ·

    FAR.AI 发布 AI 安全排行榜与护栏最低标准 1.0

    建立越狱原语分类与双重危害基准，评测模型抵御常见越狱的能力

    模型与 API测试Claude Fable 5、Claude Opus 4.8、GPT-5.6 Sol 等 8 个提示层
    摘要论文系统评测了前沿模型对已知静态越狱的防御能力，揭示了厂商间防护鲁棒性的巨大分化。

    本研究针对前沿 AI 大模型在 CBRNE 与网络高危滥用领域的安全防护，提出了 FAR.AI 最低安全标准（Minimal Standard v1.0）及配套评测基准，系统量化了当前主流模型的防护鲁棒性。

    完整解读
已经到底了