10月8日 · 周四

OpenAI · 论文

找到 2 篇

筛选2

攻击类型

越狱1 提示注入1 投毒与后门1

攻击技术

编码与混淆1 潜伏触发1

影响

有害内容1 越权操作1

系统形态

模型与 API1 AI Agent10 编程 Agent8 网页与电脑操作1 多智能体1

攻击面/入口

用户输入1 工具与技能描述1 记忆写入1 分发渠道1

层

提示层1 应用层1

系统组件

MCP 与技能1 记忆1 护栏与评审1

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 31 篇还没打标签，不在筛选结果里。

系统形态：模型与 API 系统形态：网页与电脑操作话题：OpenAI 清除全部

另有 31 篇论文还没打上分类标签，暂不在筛选结果里。

攻击arXiv:2608.06862 · 8月7日
SynChain：诱导计算机使用 Agent 自建攻击链并跨任务持久化
提出 SYNCHAIN，以定向微调诱导智能体自合成跨任务潜伏工件
网页与电脑操作编程 Agent测试Qwen3.5-9B、Llama-3.1-8B、Ministral-3-8B 等 5 个应用层
摘要论文揭示了 CUA 自合成工件带来的内部供应链威胁，验证了潜伏载荷的跨任务传播能力与防御局限。
完整解读
评测与基准arXiv:2608.03070 · 8月4日
FAR.AI 发布 AI 安全排行榜与护栏最低标准 1.0
建立越狱原语分类与双重危害基准，评测模型抵御常见越狱的能力
模型与 API测试Claude Fable 5、Claude Opus 4.8、GPT-5.6 Sol 等 8 个提示层
- 越狱
- 护栏与评审
摘要论文系统评测了前沿模型对已知静态越狱的防御能力，揭示了厂商间防护鲁棒性的巨大分化。
本研究针对前沿 AI 大模型在 CBRNE 与网络高危滥用领域的安全防护，提出了 FAR.AI 最低安全标准（Minimal Standard v1.0）及配套评测基准，系统量化了当前主流模型的防护鲁棒性。
完整解读

已经到底了