Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 29 papers

Another 233papers do not have category tags yet and are not included in filtered results.

  1. AttacksarXiv 2610.01367

    研究:高质量数据筛选挡不住投毒

    提出 Bi-QSTO,优化能穿过质量筛选并在微调中削弱安全对齐的投毒样本

    Published
    Evaluated models
    Llama2-7B-Chat, Llama3-8B-Instruct, Qwen2-7B-Instruct and others5
    Abstract质量筛选挡不住部分高分样本的安全削弱。

    Bi-QSTO 研究一个实际训练缺口:基于质量的数据选择会先于微调决定样本去留,而以往微调投毒多假设毒样本直接进入训练集。已对齐 LLM 的拒答会被少量有害或看似无害的微调样本削弱。作者用三个问题串起实验:选择能否排除毒样本。

    Paper analysisRead analysis
  2. AttacksarXiv 2610.01062

    Kernelized Activation Steering:将激活引导推广到再生核希尔伯特空间的新框架

    提出核化激活引导 KAS,在推理时自适应转向激活以诱导越狱

    Published
    Evaluated models
    Qwen2.5-7B-Instruct, Gemma-2-9B-IT, Llama-3.1-8B-Instruct and others4
    AbstractKAS 用核梯度做局部自适应转向,并在线性核下恢复 DiM。

    Kernelized Activation Steering(KAS) 把推理时的激活转向写成核空间中的优化,使更新随当前激活相对源、目标参考集的位置而变化。

    Paper analysisRead analysis
  3. 研究用 XAI 归因分析 Prompt Guard 2,同义词替换可翻转其提示注入判定

    用词级归因指导同义词替换,翻转提示注入检测并验证越狱

    Published
    Evaluated models
    Prompt Guard 2 (86M), Llama 3.1 8B

    Abstract作者称检测靠分散的词法线索。

    Paper analysisRead analysis
  4. AttacksarXiv 2609.09553

    研究:任意密文攻击前沿大模型无需微调即可越狱

    提出任意字母置换密码越狱,无需微调即可诱导有害输出

    Published
    Attacker
    Black-box
    Evaluated models
    Claude Sonnet 4, Claude Sonnet 4.5, Gemini 3 Flash (preview) and others7

    Abstract前沿大模型无需微调即可通过提示词学会字母置换密码,进而绕过分类器与对齐,作者呼吁关注能力提升带来的安全风险。

    Paper analysisRead analysis
  5. 论文揭示大推理模型的对齐崩溃并提出 Reasoning Trap 越狱范式

    揭示推理加深引发的对齐坍塌,用 Reasoning Trap 放大越狱

    Published
    Evaluated models
    Qwen3-8B, Qwen3-14B, Llama2-7B and others8
    Abstract更深推理提升题目准确率,同时提高扰动下的相对损失。

    作者研究扩展推理是否以对齐稳健性为代价,提出 ALR、RT 与 RRA。。

    Paper analysisRead analysis
  6. AttacksarXiv 2609.02172

    BOSS:以广度优先后缀搜索改进 GCG 越狱优化

    提出广度优先后缀搜索 BOSS,改进 GCG 越狱优化

    Published
    Attacker
    White-box
    Evaluated models
    Llama-2-7B-Chat, Yi-1.5-9B-Chat, Qwen2-7B-Instruct and others8
    AbstractBOSS 把 GCG 类优化从单条深搜索改为多条短轨迹加源侧诊断。

    BOSS 是插在 GCG 类离散 suffix 优化上的搜索框架:局部梯度更新不变,变的是固定预算花在深度还是广度。

    Paper analysisRead analysis
  7. AttacksarXiv 2608.07430

    研究者提出 SN-Guided Diffusion,利用扩散大模型安全神经元实现离线越狱

    提出 SN-Guided Diffusion,利用安全神经元实现离线越狱

    Published
    Evaluated models
    Qwen2.5-7B-Instruct, LLaDA-8B-Instruct, Dream-Instruct-7B and others15
    Abstract论文揭示了扩散语言模型对自回归安全神经元的继承性,并提出纯离线黑盒越狱框架 SN-Guided Diffusion。

    论文系统评估了扩散大语言模型(DLLM)在安全对齐中的双重角色——既作为白盒攻击目标,又作为黑盒越狱生成的对抗工具。

    Paper analysisRead analysis
  8. AttacksarXiv 2607.23496

    Concept2Scenario:用 SAE 概念归因发现可迁移的越狱场景

    提出 Concept2Scenario,借助内部概念归因发现可迁移的越狱场景

    Published
    Evaluated models
    Qwen3.5-9B, Llama-3.1-8B, Ministral-3-8B and others6

    Abstract该研究从表征空间因果归因揭示场景削弱拒绝的机制,发现可复用脆弱场景先验,提升多模型黑盒越狱效能与探索速度。

    Paper analysisRead analysis
  9. AttacksarXiv 2605.08513

    Apple 研究者发现抑制单个神经元即可绕过 LLM 安全对齐

    提出单神经元激活干预,抑制拒答神经元或放大概念神经元以绕过安全对齐

    Published
    Attacker
    White-box
    Evaluated models
    Qwen3-1.7B, Qwen3-4B, Qwen3-8B and others11

    Abstract作者称大模型安全由拒答门控与概念底座构成,干预单个神经元足以双向击穿对齐,且拒答神经元在预训练阶段已然存在。

    Paper analysisRead analysis
  10. AttacksarXiv 2605.07399

    研究者提出 GPO-V,用全局概率优化越狱扩散视觉语言模型

    提出 GPO-V,用全局概率优化的视觉扰动越狱扩散视觉语言模型

    Published
    Evaluated models
    LLaDA-V, LaViDA
    Abstract作者用视觉扰动改 dVLM 的全局生成概率,以绕过两类拒绝。

    GPO-V 把越狱从“开头必须顺从”改成“整段去噪概率朝肯定方向走”。。

    Paper analysisRead analysis
  11. AttacksarXiv 2604.24983

    PEO:直接优化原始提示词嵌入的 LLM 白盒越狱方法

    提出 PEO,直接优化原提示词嵌入实现白盒越狱

    Published
    Attacker
    White-box
    Evaluated models
    Vicuna-7B-v1.3, Llama-2-7B-Chat, Qwen3-4B-Instruct and others4
    AbstractPEO 原位优化提示词嵌入、多轮只重攻失败样本。

    PEO是一种不追加对抗 token 的 white-box 越狱:直接改已有提示词嵌入,并只对未成功样本更换续写目标再优化。

    Paper analysisRead analysis
  12. AttacksarXiv 2603.10091

    Multi-Stream Perturbation Attack: Breaking the Safety Alignment of Reasoning LLMs through Concurrent Task Interference

    提出多流扰动攻击,交织有害与良性任务绕过思考型 LLM 安全对齐

    Published
    Evaluated models
    Qwen3 1.7B, Qwen3 4B, Qwen3 8B and others11
    Abstract多流扰动用任务交织测试 thinking 模式,作者称它同时冲击内容安全与推理稳定性。

    多流扰动攻击把有害任务与良性任务织进同一提示词,测试 thinking 模式的内容安全与推理稳定性。作者认为,交织多任务会拉长思考,使安全检测面对被打散的有害意图,并可能把推理用于合理化,或陷入崩溃与重复。方法不访问梯度。

    Paper analysisRead analysis