Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 20 papers

Another 261papers do not have category tags yet and are not included in filtered results.

  1. 研究提出意图恢复率作为 LLM 安全评测的补充指标

    提出 IRIS,用意图恢复率区分遮蔽越狱下无害输出的原因

    Published
    Evaluated models
    GPT-4o, Claude Sonnet 4.5, Claude Opus 4.5 and others6
    Abstract无害输出的证据权重取决于任务是否被恢复。

    IRIS 把意图恢复当作中间信号,用来解释意图遮蔽提示下为何没有出现有害协助。

    Paper analysisRead analysis
  2. Abstract五模型、七族表面形式的四态评测里,低有害遵从不等于读懂后的安全处理。

    ASRD 用四态标签检查五个开源模型如何处理非规范表面上的有害请求。

    Paper analysisRead analysis
  3. StegoMemory red team testing: agent persistent memory can be used as a cross-session covert channel

    提出 StegoMemory,评测智能体持久记忆作为跨会话隐写信道

    Published
    Setting
    AI Agent
    Evaluated models
    Llama 3.1 405B, Claude 3.5 Sonnet, GPT-4o and others13

    Abstract研究揭示智能体持久记忆可作为隐蔽信道跨会话传输机密,写入持久化是主要防御瓶颈,呼吁建立记忆完整性防御。

    Paper analysisRead analysis
  4. A2A-TIBA:针对 A2A 协议 LLM 智能体的间接提示注入攻击与三层同构攻防模型

    提出 A2A-TIBA,经 A2A 对等任务间接注入并植入常驻回调

    Published
    Evaluated models
    MiniMax-M3, deepseek-v4-pro, glm-5.3 and others8
    AbstractA2A-TIBA 一次植入后绕过智能体,GDA 用四类结果定位防线,ELA-ITL 把信封标注列为第三层。

    A2A-TIBA 把间接提示注入和绕过放进 A2A:gray-box 攻击者已能投递任务,诱导目标部署常驻回调程序后,下令和外传不再经过智能体。

    Paper analysisRead analysis
  5. 研究评估 GradSafe 在多轮对话中的越狱检测脆弱性

    评测多轮对话中 GradSafe 越狱检测的可分性与脆弱性

    Published
    Evaluated models
    Llama 3.1 8B Instruct, Qwen2.5-7B-Instruct
    AbstractCWS 显示不安全梯度在真实多轮流量中变弱,且随攻击族和模型而变。

    作者评估梯度越狱检测从单条提示词迁到多轮对话后还剩多少可分性,方法是用 Context Window Scanner 把 GradSafe 原封不动地套到用户轮窗口上。

    Paper analysisRead analysis
  6. MMSkillRisk:多模态技能图像中的隐藏指令可诱导 Agent 执行未授权操作

    提出 MMSkillRisk 基准,评测多模态技能图像中的隐藏指令诱导 Agent 越权操作

    Published
    Evaluated models
    GPT-5.6-sol, Kimi-K2.6, Kimi-K3 and others6

    Abstract论文提出 MMSkillRisk 基准与 NCVA 攻击,揭示多模态技能中教学图像潜藏指令可引发未授权操作并与良性任务共存。

    Paper analysisRead analysis
  7. DIVA:利用视觉锚点对视频生成模型实施多模态越狱

    提出 DIVA,将有害意图拆成视觉锚点与运动文本以越狱视频生成模型

    Published
    Attacker
    Black-box
    Evaluated models
    Wan, CogVideoX, LTX-Video and others9
    AbstractDIVA 用视觉锚点抑制语义漂移做视频越狱,并给出多条件安全基准 TI2VSafetyBench。

    DIVA 是针对带参考图的视频生成模型的免训练 black-box 越狱:用一致性机制本身堵住语义漂移这条安全逃逸路径。。

    Paper analysisRead analysis
  8. SinoGlyphBench:中文字形混淆下语言模型审核的诊断基准

    提出 SinoGlyphBench,用配对字形混淆诊断中文审核稳定性

    Published
    Evaluated models
    GPT-5.4 mini, GPT-5.5, DeepSeek V4 Flash and others12
    AbstractSinoGlyphBench 显示中文字形混淆会同时增加有害漏报和误报,全文扰动最重。

    SinoGlyphBench是一个配对诊断基准,用来看内容审核在可还原的中文字形混淆下是否还保持原决定。

    Paper analysisRead analysis
  9. SynChain:诱导计算机使用 Agent 自建攻击链并跨任务持久化

    提出 SYNCHAIN,诱导计算机使用 Agent 自建跨任务持久攻击链

    Published
    Evaluated models
    Qwen3.5-9B, Llama-3.1-8B, Ministral-3-8B

    Abstract论文揭示了 CUA 自合成工件带来的内部供应链威胁,验证了潜伏载荷的跨任务传播能力与防御局限。

    Paper analysisRead analysis
  10. LogInject 框架披露 LLM 日志分析中的被动提示注入

    提出 LogInject 框架,评测日志分析中的被动提示注入及缓解

    Published
    Evaluated models
    GPT-4o, Claude 3.5 Sonnet, Llama-3-70B-Instruct

    Abstract论文评估了 LLM 日志分析中的上下文污染风险,提出分片拼接等攻击与三层防御,指出必须结合架构隔离与人工介入。

    Paper analysisRead analysis
  11. SpeechJBB:语码转换语音下大型音频语言模型的越狱基准

    提出 SpeechJBB,评测语码转换语音下音频语言模型的越狱稳健性

    Published
    Evaluated models
    Qwen2.5-Omni-7B, Qwen3-Omni-30B-A3B-Instruct, Voxtral-Small-24B and others9
    AbstractSpeechJBB 用五语语码转换语音和伪词探针评测九个 LALM,作者将越狱归为对齐失败而非听不懂。

    SpeechJBB 用合成语音测量 LALM 在五语、语码转换和局部伪词混淆下的安全对齐,并另设口语理解对照。

    Paper analysisRead analysis
  12. MultiTurnPSB

    构建 MultiTurnPSB,评测四轮医疗越狱与分类器输入防御

    Published
    Evaluated models
    GPT-4.1-mini, Claude Sonnet 4.5
    Abstract多轮攻击加剧医疗模型风险,分类器干预有效但受高误报率制约。

    MultiTurnPSB 针对患者端医疗大模型在持续交互中的安全风险,构建了包含三种攻击模态的四轮对抗评测基准。

    Paper analysisRead analysis
  13. ADVERSA:测量大语言模型中的多轮护栏退化与评判可靠性

    用 ADVERSA 测量多轮对抗下护栏退化与评审可靠性

    Published
    Evaluated models
    Claude Opus 4.6, Gemini 3.1 Pro, GPT-5.2
    AbstractADVERSA 用逐轮合规轨迹和三评审共识测量多轮护栏变化。

    ADVERSA是一套自动多轮红队测量框架,把护栏行为记成逐轮合规轨迹,并同时测量评审是否一致。要处理的问题是:单轮二元通过或失败既看不到持续对抗下安全属性如何变化,也分不开拒答逐步巩固和分数保持稳定。作者认为真实使用中的对手会改写并持续多轮。

    Paper analysisRead analysis
  14. 研究者提出 MM-Plan 多模态越狱框架

    提出 MM-Plan 多模态越狱框架,自动规划多轮图像编辑以越狱视觉独占目标

    Published
    Attacker
    Black-box
    Evaluated models
    Llama-3.2-11B, InternVL3-8B, Qwen3-VL-8B and others8
    Abstract作者称全局规划能攻破对单轮攻击更稳的前沿 MLLM。

    MM-Plan 是面向 Visual Exclusivity 的 black-box 多模态红队方法,并配有人工基准 VE-Safety。

    Paper analysisRead analysis
  15. CSSBench: Evaluating the safety of lightweight LLMs against Chinese-specific adversarial patterns

    提出 CSSBench 评测轻量模型对中文表面对抗改写的失守与过度拒绝

    Published
    Evaluated models
    Qwen3-0.6B, Qwen3-1.7B, Qwen3-8B and others10
    AbstractCSSBench 用表面扰动和边界查询评轻量模型。

    CSSBench 评测轻量 LLM 在中文特有表面改写下的安全,并同时测量过度拒绝。要处理的缺口是:英文向护栏和只测干净查询的中文基准,看不清同音、拼音、符号混写、零宽字符这些写法下的失守,也分不清较低风险来自细粒度判断还是粗粒度拒答。作者称轻量模型更需要这种评测。

    Paper analysisRead analysis
  16. DREAM 框架用跨环境长链攻击评测 12 个 LLM Agent

    提出 DREAM 框架,评测 Agent 的跨环境长链攻击脆弱性

    Published
    Setting
    AI Agent
    Evaluated models
    Gemini-2.5-Flash-NT, o4-mini, Gemini-2.5-Flash and others12

    AbstractDREAM 提出基于知识图谱与策略搜索的动态红队框架,分析了长链跨环境攻击对当前主流智能体的系统性威胁。

    Paper analysisRead analysis
You have reached the end