跳到正文
10月8日 · 周四

全部论文

找到 9 篇
筛选1

攻击类型

越狱9提示注入21投毒与后门12检测规避1恶意使用4

攻击技术

自动化搜索1多轮渐进2角色扮演与说服1诱导选用1

模型自身风险

拒答失当2

防御类型

模型加固1推理时干预1检测与过滤1权限与审批1监控与审计1

影响

有害内容5越权操作3可用性与可靠性1

系统形态

模型与 API5AI Agent4编程 Agent1

攻击者权限

黑盒2白盒1无盒1

攻击面/入口

用户输入9工具返回2工具与技能描述1图像与音视频1

层

提示层3模型层2应用层4

系统组件

MCP 与技能1护栏与评审3监控器1推理链1权限与沙箱1微调与开源权重1视觉1多模态1

被测模型厂商

Qwen（阿里）8OpenAI7Google6Meta6Anthropic5其他9
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 1065 篇还没打标签，不在筛选结果里。
攻击类型：越狱清除全部

另有 1065 篇论文还没打上分类标签，暂不在筛选结果里。

  5. 评测与基准arXiv:2608.08542 ·

    SkillSafe-Bench：技能合并模型静态安全无法预测自适应越狱鲁棒性

    评测技能合并模型的自适应越狱鲁棒性，并提出子空间投影防御

    模型与 API攻击者白盒测试Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、Mistral-7B-Instruct-v0.3 等 6 个模型层
    摘要论文报告了技能合并大模型在静态安全与自适应越狱间的脱节，提出了评测基准与无数据子空间投影修复方法。

    本研究针对开源语言模型技能合并过程中的安全评估盲区，系统评测并刻画了合并大模型在自适应越狱攻击下的脆弱性特征。

    完整解读
  6. 防御arXiv:2609.36562 ·

    ThinkingGuard：通过逐步风险归因解码多模态大语言模型中的隐式危害

    构建 TriggerBench 并训练 ThinkingGuard，检测图文隐式风险

    模型与 API测试ThinkingGuard（Qwen3-VL-8B-Instruct）、GPT-5.1、Claude-Sonnet-4-6 等 9 个提示层
    摘要TriggerBench 隔离触发条件，ThinkingGuard 用分步归因在隐式风险检测上取得作者报告的较高平均分。

    这篇工作研究多模态隐式风险检测：图文各自良性，风险只在关键元素与触发元素交互时出现。

    完整解读
  7. 评测与基准arXiv:2609.09798 ·

    CS-Guard：首个面向代码生成安全的 LLM 护栏评测基准

    提出 CS-Guard 基准与虚构场景攻击，评测代码生成护栏

    编程 Agent攻击者黑盒无盒测试CodeLlama-13B-Instruct、DeepSeekCoder-V2-Lite-16B、GPT-OSS-20B 等 7 个应用层

    摘要论文提出了代码安全护栏基准 CS-Guard，评估发现现有护栏对虚构场景攻击和代码级恶意请求防御较弱。

    完整解读
  8. 评测与基准arXiv:2608.03070 ·

    FAR.AI 发布 AI 安全排行榜与护栏最低标准 1.0

    建立越狱原语分类与双重危害基准，评测模型抵御常见越狱的能力

    模型与 API测试Claude Fable 5、Claude Opus 4.8、GPT-5.6 Sol 等 8 个提示层
    摘要论文系统评测了前沿模型对已知静态越狱的防御能力，揭示了厂商间防护鲁棒性的巨大分化。

    本研究针对前沿 AI 大模型在 CBRNE 与网络高危滥用领域的安全防护，提出了 FAR.AI 最低安全标准（Minimal Standard v1.0）及配套评测基准，系统量化了当前主流模型的防护鲁棒性。

    完整解读
已经到底了