跳到正文
10月8日 · 周四

红队 · 论文

找到 8 篇
筛选2

攻击类型

越狱5提示注入1投毒与后门1恶意使用1

攻击技术

自动化搜索1多轮渐进1角色扮演与说服1潜伏触发1诱导选用1

防御类型

权限与审批1

影响

有害内容3越权操作4数据与隐私泄露1

系统形态

模型与 API2AI Agent6编程 Agent3网页与电脑操作2

攻击者权限

黑盒2无盒1

攻击面/入口

用户输入7网页与界面1文档与消息2工具返回4工具与技能描述6代码仓库与依赖5检索语料1记忆写入3Agent 间消息2图像与音视频2分发渠道2

层

提示层2应用层6

系统组件

MCP 与技能1记忆1护栏与评审2权限与沙箱1

被测模型厂商

OpenAI7Qwen（阿里）6Anthropic5Google5Kimi（月之暗面）5其他8
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 95 篇还没打标签，不在筛选结果里。
攻击面/入口：用户输入攻击面/入口：网页与界面话题：红队清除全部

另有 95 篇论文还没打上分类标签，暂不在筛选结果里。

  3. 评测与基准arXiv:2604.02947 ·

    AgentHazard：评估计算机使用智能体有害行为的基准

    提出 AgentHazard 基准，评测计算机使用智能体的执行层有害行为

    网页与电脑操作编程 Agent测试Qwen2.5-72B-Instruct、Qwen2.5-Coder-32B-Instruct、Qwen3-32B 等 12 个应用层
    摘要AgentHazard 评估了计算机使用智能体的执行安全，作者认为模型层对齐无法可靠保障智能体层面的安全性。

    AgentHazard 是针对计算机使用智能体执行层安全构建的评估基准，重点探究多步工具调用下局部合理动作累积引发的危害。

    完整解读
  6. 评测与基准arXiv:2609.09798 ·

    CS-Guard：首个面向代码生成安全的 LLM 护栏评测基准

    提出 CS-Guard 基准与虚构场景攻击，评测代码生成护栏

    编程 Agent攻击者黑盒无盒测试CodeLlama-13B-Instruct、DeepSeekCoder-V2-Lite-16B、GPT-OSS-20B 等 7 个应用层

    摘要论文提出了代码安全护栏基准 CS-Guard，评估发现现有护栏对虚构场景攻击和代码级恶意请求防御较弱。

    完整解读
  7. 评测与基准arXiv:2608.03070 ·

    FAR.AI 发布 AI 安全排行榜与护栏最低标准 1.0

    建立越狱原语分类与双重危害基准，评测模型抵御常见越狱的能力

    模型与 API测试Claude Fable 5、Claude Opus 4.8、GPT-5.6 Sol 等 8 个提示层
    摘要论文系统评测了前沿模型对已知静态越狱的防御能力，揭示了厂商间防护鲁棒性的巨大分化。

    本研究针对前沿 AI 大模型在 CBRNE 与网络高危滥用领域的安全防护，提出了 FAR.AI 最低安全标准（Minimal Standard v1.0）及配套评测基准，系统量化了当前主流模型的防护鲁棒性。

    完整解读
已经到底了