跳到正文
10月8日 · 周四

全部论文

找到 4 篇
筛选1

攻击类型

越狱1提取与窃取1

模型自身风险

拒答失当2

防御类型

模型加固4推理时干预1检测与过滤5指令与数据隔离1权限与审批2监控与审计6

影响

有害内容2数据与隐私泄露1输出被操纵1

系统形态

模型与 API4

攻击者权限

白盒1

攻击面/入口

用户输入2

层

模型层2训练与数据层2

系统组件

护栏与评审1监控器1微调与开源权重1

被测模型厂商

其他4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 1033 篇还没打标签，不在筛选结果里。
防御类型：模型加固清除全部

另有 1033 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv:2608.08542 ·

    SkillSafe-Bench：技能合并模型静态安全无法预测自适应越狱鲁棒性

    评测技能合并模型的自适应越狱鲁棒性，并提出子空间投影防御

    模型与 API攻击者白盒测试Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、Mistral-7B-Instruct-v0.3 等 6 个模型层
    摘要论文报告了技能合并大模型在静态安全与自适应越狱间的脱节，提出了评测基准与无数据子空间投影修复方法。

    本研究针对开源语言模型技能合并过程中的安全评估盲区，系统评测并刻画了合并大模型在自适应越狱攻击下的脆弱性特征。

    完整解读
  3. 评测与基准arXiv:2609.08943 ·

    研究提出 Fact-Ablated Evaluation，揭示 LLM 事实核查更依赖参数知识

    提出 FAE 衡量事实核查对证据的依赖，并用 REAL 训练这种依赖

    模型与 API测试GPT-4o-mini、Gemini-2.5-flash-lite、Qwen-2.5-32B-Instruct 等 7 个训练与数据层
    摘要FAE 用多轮证据消融测接地，REAL 用对比监督让判决随证据可用性改变。

    FAE 与 REAL 分别用来测量并训练 LLM 事实核查器对所给证据的依赖，而不只看一次性的标签准确率。

    完整解读
  4. 防御arXiv:2609.40286 ·

    研究者提出 COVER：在语言预算下选择源语言实现跨语言遗忘

    提出 COVER，在语言预算下选择源语言实现跨语言知识遗忘

    模型与 API测试Tiny Aya Global、Qwen3-4B-Instruct-2507、Llama-3.2-3B-Instruct训练与数据层
    摘要COVER 在语言预算下选源语言，以降低未监督语言上相对 oracle 的残余访问。

    语言预算下的多语言遗忘：遗忘监督只放在 K 种源语言上，目标是降低其余语言对同一事实的残余访问，而不是把每种评测语言都译成监督数据。

    完整解读
已经到底了