跳到正文
10月12日 · 周一

全部论文

找到 13篇
筛选3

攻击类型

越狱7提取与窃取4

影响

有害内容6数据与隐私泄露3

系统形态

模型与 API13

攻击面/入口

用户输入13网页与界面0文档与消息0图像与音视频3训练数据5

层

提示层6模型层3训练与数据层3
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 232篇还没打标签，不在筛选结果里。
攻击面/入口：用户输入攻击面/入口：网页与界面攻击面/入口：文档与消息清除全部

另有232篇论文还没打上分类标签，暂不在筛选结果里。

  2. 分析与理论arXiv 2610.00417

    研究：合成数据溯源识别在改写后准确率大幅下降

    检验合成数据来源识别是否等于再训练适配筛选

    arXiv
    2610.00417
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    Qwen2.5-3B-Instruct、DistilRoBERTa、word TF-IDF logistic regression 等5个
    摘要来源识别在原文上准确，改写后精确归因下降。

    作者在金融风险文本上把来源识别和训练样本是否有用拆成两次测量，并写明这不是电信部署实验。

    深度解读完整解读
  3. 分析与理论arXiv 2609.36477

    研究发现护栏模型在基座模型不确定处过度自信

    诊断护栏相对基座在对抗提示上的置信失校

    arXiv
    2609.36477
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Llama-Guard 7B、Llama-Guard-2 8B、Llama-Guard-3 8B 等10个
    摘要对抗包装使 guard 高置信漏检，而对应 base 在同一输入上常更不确定。

    诊断性分析：五个提示词分类 guard 的置信度，在清洁输入上可以较校准，在越狱包装后则变成高置信度的错误判定。

    深度解读完整解读
  4. 分析与理论arXiv 2609.33909

    近重复家族干扰精确记录成员推断

    分析近重复族如何让精确记录成员推断误判为入训

    arXiv
    2609.33909
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    Pythia-2.8B、GPT-2、Qwen3.5-2B 等5个
    摘要近重复使干净参照 MI 把族级暴露当成精确记录。

    作者研究成员推断能否作为精确记录的数据来源证据。版权和来源审计需要的是该记录本身是否入训，而网页语料中的转载、镜像和轻改会让非同一近重复产生成员样分数。四世界审计用 E 表示精确记录是否入训、用 F 表示其近重复族是否在场，从而分开 H00 到 H10 的标准 MI、H00 到 H01 的族偏移，以及 H01 到 H11 的 exact-given-family。

    深度解读完整解读
  5. 分析与理论arXiv 2609.33898

    研究揭示训练效率与模型脆弱性的权衡：高效训练更易受对抗与隐私攻击

    比较高效与高成本训练的对抗和隐私脆弱性并分析损失几何

    arXiv
    2609.33898
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    ResNet-18、Swin Transformer、Qwen2.5-Math-7B-Instruct 等7个
    摘要效用匹配下，三种高效训练都伴随更高的隐私与对抗脆弱性及更尖的损失几何。

    作者在视觉分类和数学推理语言模型上，检查用更少数据或更简对齐换取训练效率时，安全性质是否一起变化。比较在任务效用接近的前提下进行。视觉侧用 KNN-Shapley 的高重要性小子集对照低重要性大子集，并用预训练微调对照从头训练。

    深度解读完整解读
  6. 分析与理论arXiv 2609.32116

    研究提出 Best-of-N 越狱的物理势垒模型，挑战攻击成功率幂律规律

    用物理陷阱模型描述 Best-of-N 越狱的攻击面规律

    arXiv
    2609.32116
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    Qwen2.5-7B (base)、Llama-3.1-8B-Instruct、Qwen2.5-3B-Instruct 等5个
    摘要四参数势垒模型拟合 BoN 的两预算面，并把指数交叉归因于数据集有限。

    Biroli 用一个玻璃陷阱式的微观模型，把 Best-of-N 越狱写成熵瓶颈加能量鞍点，并用四个数描述 (N, M) 攻击面及温度依赖。。

    深度解读完整解读
  8. 分析与理论arXiv 2606.20508

    研究：安全对齐 LLM 如何从混合合规示范中学习

    检验混合合规演示教模型的是通用服从还是有害性

    arXiv
    2606.20508
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    Llama-3.1-8B-Instruct、OLMo-3.1-32B-Instruct、GPT-OSS-20B 等6个
    摘要良性与有害合规演示不可互换，效应取决于模型、顺序和偏好优化。

    这项工作问的是：安全对齐模型从混合的良性与有害合规演示中提取的，是通用服从规则，还是请求是否有害。作者控制 Nb、Nh、ϕ 和顺序，检验总量、有害计数与联合计数三个假设，而不是提出新的攻击算法。

    深度解读完整解读
  10. 分析与理论arXiv 2605.17173

    研究提出 IRT 框架拆解大模型跨语言安全护栏退化

    提出多组 IRT 框架拆解跨语言安全护栏退化原因

    arXiv
    2605.17173
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    gpt-4.1-mini、gpt-4o-mini、gpt-4.1-nano 等15个
    摘要多组 IRT 把多语安全失败拆成能力、语言难度和题目特异差距，并在闭源配置上估计这些因子。

    Zhang、Patel、Truong 与 Koyejo 用多组项目反应理论，解释安全护栏为何随语言变化，而不是只报告一个 JSR。

    深度解读完整解读
  13. 分析与理论arXiv 2601.02002

    探索检测大语言模型中推荐系统数据记忆的方法

    比较提示抽取与激活探测对推荐系统数据记忆的检出

    arXiv
    2601.02002
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    LLaMA-1B、LLaMA-3B
    摘要作者称自动优化提示最有希望抽出影片，但数值字段和高分都不能确认泄漏。

    作者比较越狱、激活探测和自动提示，看公开 LLaMA 能否抽出或检出 MovieLens-1M 中的记忆。

    深度解读完整解读
已经到底了