Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 30 papers

Another 232papers do not have category tags yet and are not included in filtered results.

  1. DefensesarXiv 2610.08678

    研究揭示投机解码的安全代价并提出 SecureSD 加固方法

    测量有损投机解码的安全代价,并提出 SecureSD 收紧早期验证

    Published
    Setting
    AI Agent
    Attacker
    Black-box
    Evaluated models
    Qwen3-8B, Qwen3-32B, Llama-3.1-8B-Instruct and others6
    Abstract有损推测解码的早期偏离更快抬高越狱与注入风险。

    作者研究有损推测解码在换取速度时,是否会比效用更快地损害越狱与提示注入防护,并给出按位置校正的 SecureSD。

    Paper analysisRead analysis
  2. 研究者提出统一滥用监控基准,覆盖分解攻击与提示注入约 6200 条轨迹

    提出危害窗口与区间指标,统一评测分解攻击和提示注入下的智能体滥用监视

    Published
    Setting
    AI Agent
    Evaluated models
    Gemma 4 26B-A4B, Qwen3.6 27B, Qwen3.5 27B and others12

    Abstract统一智能体滥用监视框架,动作视角兼顾两类威胁但危害定位仍存瓶颈。

    Paper analysisRead analysis
  3. TrustMI:通过模型激活因果控制助手对用户的信任

    提出 TrustMI,用激活转向因果调控助手对用户主张的信任

    Published
    Setting
    AI Agent
    Evaluated models
    Qwen3.5-9B, Qwen3.5-27B, Llama-3.1-8B-Instruct and others6
    Abstract作者用 BiPO 转向调控助手对用户的依赖,并称该效应迁移到智能体安全任务。

    TrustMI 研究助手对用户的信任能否沿激活中的线性方向被因果调控,以及这种调控会不会改变安全相关的智能体行为。

    Paper analysisRead analysis
  4. Paper finds multimodal models' refusal failure rate rises by up to 68.7% after tool use is enabled

    评测 ReAct 工具调用对多模态模型拒答有害请求的削弱

    Published
    Setting
    AI Agent
    Evaluated models
    Gemini-2.5-Pro, Gemini-3.1-Pro-Preview, Claude Opus 4.6 and others13
    Abstract论文揭示了工具调用范式削弱 MLLM 拒答能力的现象,分析了稀释与偏移机制并验证了重注缓解方案。

    论文系统评估了智能体工具调用范式对多模态大语言模型拒答能力的影响,指出了工具增强视觉推理背后的安全隐患。核心探讨的问题在于:当 MLLM 从单次推理转向通过 ReAct 循环调用外部工具(打标、缩放、OCR、代码执行)时,工具使用机制本身是否会降低模型拒答有害请求的概率。

    Paper analysisRead analysis
  5. DefensesarXiv 2610.03434

    Persona Guardrail:面向智能体系统的生产级防御框架

    提出 Persona Guardrail,强制客服智能体守住功能边界

    Published
    Setting
    AI Agent
    Attacker
    Black-box
    Evaluated models
    Qwen3-30B-A3B, Qwen3-VL-30B, Qwen3-8B and others5
    AbstractPersona Guardrail 用功能边界做同步输入输出校验,并在 PAGE 与生产延迟预算下给出评测。

    Persona Guardrail 是客服向智能体的同步运行时防御:先写明功能边界,再决定放行或拦截,而不是只检测某一攻击类。

    Paper analysisRead analysis
  6. AttacksarXiv 2609.39788

    研究:多智能体系统潜在通信链路可被训练用于提升有害顺从

    提出只训练或篡改多智能体潜在通信链路来提高有害遵从

    Published
    Evaluated models
    Llama-3.2-3B-Instruct, Qwen2.5-3B-Instruct, Gemma-3-1B-IT and others7
    Abstract潜在链路本身即可改变冻结智能体系统的安全,奖励既能攻击也能修复。

    学习得到的潜在通信链路会改变由冻结、对齐智能体组成的系统是否遵从有害请求。。作者研究三种拓扑:双智能体、三级顺序协作,以及双专家加汇总。

    Paper analysisRead analysis
  7. 研究测量并预测具身 VLM 规划器中任务的拒答可变性

    测量并预测具身 VLM 规划器的任务拒答可变性

    Published
    Evaluated models
    gemini-robotics-er-2-preview, gemini-robotics-er-1.6-preview
    Abstract日常物体能翻转一部分已给出的拒答,可翻转程度取决于任务且可被本地代理预测。

    作者测量 constitution 守护的具身 VLM 规划器:一次拒答在只往场景里放一个日常物体之后还保不保持得住,并把这种易翻转程度称为任务的 malleability。

    Paper analysisRead analysis
  8. 印第安纳大学 OSoMe 研究:LLM 之间顺着原有立场共振比硬说服更易激进化

    比较智能体对话中共振与说服对信念激进化的效果

    Published
    Evaluated models
    Llama-3.1-8B-Instruct, Qwen3-8B
    Abstract两智能体实验中,作者称共振比说服更能激进化,并会波及相关信念。

    作者用两个 LLM 智能体的对话,考察一方能否把另一方扮演的人格信念推向更极端。

    Paper analysisRead analysis
  9. 窄域多模态微调可诱发涌现性失配,覆盖 15 个视觉语言模型

    证明无显式危害的图文窄微调可诱发跨任务涌现未对齐

    Published
    Evaluated models
    GPT-4o, GPT-4.1, Gemini 2.5 and others15
    Abstract证实窄多模态微调可引发全面的多渠道未对齐行为转变,揭示了后训练阶段对齐被隐蔽重塑的安全隐患。

    论文系统探究了视觉-语言模型中由窄任务微调诱发的跨模态涌现未对齐(Emergent Misalignment, EM)现象。

    Paper analysisRead analysis
  10. CART:面向大语言模型的闭环自适应红队框架

    提出闭环自适应红队框架 CART,评测模型与 Agent 的安全失败

    Published
    Setting
    AI Agent
    Evaluated models
    Claude Opus 4.8, GPT-5.5, Grok 4.3 and others7
    AbstractCART 把红队做成可审计的闭环搜索,在三类评测上比静态回放发现更多失败与更高平均风险。

    CART 把自动红队从一次清单式打分,改成带预算、可追溯的闭环搜索。

    Paper analysisRead analysis
  11. OtherarXiv 2609.12413

    SoK 综述:智能体 AI 时代的越狱攻击、防御与实践考量

    系统梳理智能体执行链路中的越狱攻击与防御并比较推理时防御

    Published
    Setting
    AI Agent
    Evaluated models
    Qwen3.5-4B, Llama-3.1-8B-Instruct
    AbstractSoK 将越狱重放到智能体流水线,并用两种模型检验回复层防御的边际与代价。

    Mia 等人把越狱安全从单轮回复扩展到智能体的规划、记忆、工具和智能体间通信,并问既有结论在更强原生对齐下是否还成立。

    Paper analysisRead analysis
  12. CS-Guard:首个面向代码生成安全的 LLM 护栏评测基准

    提出 CS-Guard 基准,评测代码生成护栏对虚构场景攻击的防御

    Published
    Attacker
    Black-box
    Evaluated models
    CodeLlama-13B-Instruct, DeepSeekCoder-V2-Lite-16B, GPT-OSS-20B and others7

    Abstract论文提出了代码安全护栏基准 CS-Guard,评估发现现有护栏对虚构场景攻击和代码级恶意请求防御较弱。

    Paper analysisRead analysis
  13. 论文揭示多智能体委派结构放大 LLM 安全风险

    评测多智能体委托结构如何放大模型的安全拒答失效

    Published
    Evaluated models
    Claude-Sonnet-4.6, GPT-5, Gemini-3.1-Pro and others6

    Abstract论文揭示多智能体层级委托会导致单模型安全对齐失效,多项前沿模型有害执行大幅增加且单层防御难以奏效。

    Paper analysisRead analysis
  14. SciHazard:面向科研安全的危险能力评测基准与分解式危害评分

    构建 SciHazard 基准,评测科研智能体与 LLM 的科学危险能力

    Published
    Evaluated models
    WebThinker + DeepSeek-R1, InternAgent, Gemini Deep Research and others19
    AbstractSciHazard 用分解评分测科学滥用风险,作者称智能体抬高了可执行危害。

    SciHazard 是一个科学滥用风险基准,配一个把危害拆开再合成的自动分数。

    Paper analysisRead analysis
  15. AttacksarXiv 2607.03968

    The study reveals workflow-level jailbreaks in IDE programming agents: GitHub Copilot generated harmful content across four backends at 816/816

    提出工作流级越狱,让编程 Agent 在开发任务中写入有害示例

    Published
    Evaluated models
    Claude Sonnet 4.6, Claude Haiku 4.5, Gemini 3.1 Pro and others4
    Abstract作者报告 Copilot 后端会在编码工作流中生成其在单轮条件下通常拒绝的有害答案。

    这是一项生产 IDE 编码智能体的工作流越狱研究,受测对象是 Copilot 的四个模型后端,而非评测流水线中的名义目标。

    Paper analysisRead analysis
  16. DefensesarXiv 2606.08234

    SciTrace:面向科学发现智能体的轨迹感知安全推理框架

    提出 SciTrace,为科学发现智能体加入跨阶段安全推理与工具轨迹核验

    Published
    Evaluated models
    Llama-3.1-70B-Instruct, Qwen2.5-72B-Instruct, DeepSeek-V3 and others4
    AbstractSciTrace 把安全推理织入科学智能体各阶段,在 SciSafetyBench 上提高安全指标并保持输出质量。

    SciTrace 是加在科学发现智能体流水线上的安全框架,不是再在各阶段出口放一个独立过滤器。

    Paper analysisRead analysis
  17. 研究用消融移除代码 LLM 拒答方向,分离拒答与生成能力

    用 abliteration 消融代码 LLM 拒答方向,分离拒答与漏洞注入能力

    Published
    Evaluated models
    Qwen2.5-Coder-Instruct 3B, Qwen2.5-Coder-Instruct 7B, Qwen2.5-Coder-Instruct 14B
    Abstract拒答可用低秩编辑去掉,CWE-89 注入是否成功仍由模型规模决定。

    这项初步可行性研究用 abliteration 把代码 LLM 的拒答和 CWE 注入能力拆开:意愿可以被低秩编辑解锁,注入是否成功仍看参数规模。

    Paper analysisRead analysis