跳到正文
10月12日 · 周一

全部论文

找到 12篇
筛选3
同一类里任选其一,不同类之间同时满足;数字是加上其他已选条件后的篇数。另有 233篇还没打标签,不在筛选结果里。

另有233篇论文还没打上分类标签,暂不在筛选结果里。

  1. 评测与基准arXiv 2610.10276

    PatchBench 提出激活补丁局部评测协议,揭示越狱修复的附带损伤

    提出 PatchBench-Local 协议,评测激活补丁修复越狱的局部附带损伤

    发表
    被测模型
    Qwen2.5-3B-Instruct、Qwen2.5-14B-Instruct、gemma-3-4b-it 等8个

    摘要论文提出 PatchBench 与局部评估协议,揭示了激活补丁在全局能力无损下仍存局部良性退化。

    深度解读完整解读
  2. 攻击arXiv 2609.29948

    ENDOPROMPT:用受害者侧伪参考学习降低模型任务效用的前缀

    提出 ENDOPROMPT,以受害者侧伪参考学习降低良性任务效用的前缀

    发表
    被测模型
    Qwen2.5-7B、Llama-3.1-8B、Mistral-7B-v0.3 等4个
    摘要作者用受害模型续写监督良性效用攻击,并把行为位移、任务退化与请求匹配效果分开评测。

    ENDOPROMPT 是一种用受害模型自身续写监督前缀生成的 white-box 效用攻击方法。它针对良性任务失败,不要求产生有害内容或明确拒答。

    深度解读完整解读
  3. 评测与基准arXiv 2609.19140

    AgentLSD:在对抗性任务污染下评测 AI 安全 Agent

    评测安全 Agent 在对抗性任务污染下的解题成功与开销

    发表
    场景
    web agent
    被测模型
    Gemma-4 31B、DeepSeek-V4 Flash、GPT-OSS 120B 等6个
    摘要AgentLSD 用配对 web CTF 表明,欺骗性环境证据会改变安全智能体的解题率与工作量。

    AgentLSD 是一个对照框架,用来测量安全智能体在任务本身不变时,对对抗性任务污染的反应。

    深度解读完整解读
  4. 评测与基准arXiv 2609.15017

    PIDS-Bench:在过度防御、混淆与分布偏移下评测提示注入检测器

    提出 PIDS-Bench,评测提示注入检测器在过度防御与分布偏移下的表现

    发表
    被测模型
    TF-IDF + logistic regression、DistilBERT、DeBERTa-v3-FT 等7个
    摘要PIDS-Bench 显示高分布内 F1 仍会过度拦截外部来源的安全相关良性输入。

    PIDS-Bench 是一个冻结的检测器级基准,用来在固定阈值下同时看提示注入检测和良性误报。

    深度解读完整解读
  5. 攻击arXiv 2605.13338

    研究者提出层级遗传算法黑盒攻击,诱导推理模型过度思考

    提出层级遗传算法 HGA,扰动题目逻辑结构诱发推理模型过度思考

    发表
    攻击者
    黑盒
    被测模型
    DeepSeek-R1 (671B)、Qwen3-Thinking、GPT-o3 等5个

    摘要HGA 在黑盒推理模型上用逻辑扰动拉长输出,作者称可从小代理迁移,查询成本是其局限。

    深度解读完整解读
  6. 攻击arXiv 2602.07379

    Aegis:面向 AI 语音 Agent 的治理、完整性与安全

    提出 Aegis 红队框架,多轮攻击高风险语音 Agent

    发表
    场景
    AI Agent
    被测模型
    GPT-4o、GPT-4o-mini、Gemini-1.5 Pro 等7个
    摘要Aegis 红队评测三类语音智能体:查询式访问消掉认证与泄密成功,行为类攻击仍在。

    Aegis 用多轮红队评测已接入业务系统的 ALLM 语音智能体。作者称这是该设定下的 the first systematic red-teaming framework。

    深度解读完整解读
已经到底了