跳到正文
10月12日 · 周一

全部论文

找到 15篇
筛选4
同一类里任选其一,不同类之间同时满足;数字是加上其他已选条件后的篇数。另有 240篇还没打标签,不在筛选结果里。

另有240篇论文还没打上分类标签,暂不在筛选结果里。

  1. 可解释性arXiv 2610.13078

    注意力看见,MLP 拒绝:追踪 LLM 中从注意力到 MLP 的安全路径

    追踪注意力识别有害性到 MLP 拒绝写入的通路并提出 Sentinel

    发表
    被测模型
    Llama-3.1-8B-Instruct、Qwen2.5-7B-Instruct、Qwen3-8B-Instruct 等18个
    摘要注意力更新更易读出有害性,MLP 更新写入拒绝,Sentinel 用两路信号路由提醒。

    作者把对齐模型的越狱和过度拒绝,改写成残差流上从识别到写入的通路问题,并据此做解码前的条件提醒。

    深度解读完整解读
  2. 防御arXiv 2609.34518

    SEAD 论文提出工具型 Agent 的状态视角攻击与防御方法 DART 与 SAGE

    提出工具型 Agent 的自适应攻击 DART 与预执行防御 SAGE

    发表
    场景
    AI Agent
    被测模型
    GPT-5.6 Luna、GPT-5.6 Terra、Gemini 3.8 Flash 等5个

    摘要论文提出状态控制框架 SEAD、攻击 DART 与防御 SAGE,实验显示执行反馈与环境探测在攻防交互中具有关键作用。

    深度解读完整解读
  3. 防御arXiv 2609.28693

    skilder:以角色化技能包为工具型 LLM 智能体做访问控制

    提出 Skilder,按角色渐进下发企业工具并确定性拦截越权调用

    发表
    场景
    AI Agent
    被测模型
    Claude Haiku 4.5、Qwen 3.5 122B、Gemma 4 31B 等6个
    摘要Skilder 用单 MCP 服务器按角色交付工具并硬拦截。

    Skilder 把企业工具型智能体的能力按角色打包,经一个 MCP 服务器做渐进发现,使工具范围由服务器而不是提示词来执行。

    深度解读完整解读
  4. 防御arXiv 2609.10613

    后验重加权框架解释并缓解多模态大模型上下文越狱

    用后验重加权解释多模态上下文越狱,并提出风险门控的良性示例注入防御

    发表
    被测模型
    Qwen3-VL-2B、Qwen3-VL-4B、Qwen3-VL-8B 等8个
    摘要后验重加权解释上下文越狱的缩放,并支持风险门控的良性示例防御。

    Zhang 等把多模态 ICL 越狱写成对齐模型在安全与有害隐模式之间的推理时后验漂移,并据此做风险门控防御。

    深度解读完整解读
  5. 防御arXiv 2609.02786

    SafeEvolve:基于智能体经验的 Harness-Policy 协同演化安全对齐框架

    提出 SafeEvolve,用轨迹证据协同演化安全 harness 与策略

    发表
    场景
    AI Agent
    被测模型
    Qwen3.5-4B、Qwen3-4B-Instruct-2507、Qwen3.5-1.7B 等4个
    摘要SafeEvolve 用轨迹证据协同更新安全 harness 和策略,在两个 4B 模型的智能体安全基准上改变安全与效用。

    SafeEvolve 把已完成的 on-policy 轨迹变成安全 harness 的有界更新,并用两阶段 SFT-RL 把这些更新内化进工具使用策略。

    深度解读完整解读
  6. 防御arXiv 2609.01677

    Skill-as-API:面向智能体软件工程的机密多智能体协作协议

    提出 Skill-as-API,隔离多智能体协作中的 skill 正文与系统提示词

    发表
    摘要协议把 skill 正文留在所有者侧,四层限制发现内容、权限期限和注入拼接。

    Skill-as-API 是面向智能体软件工程的协调协议,用来在跨组织调用时把 skill 的代码和系统提示词留在所有者进程。作者针对三条威胁:经通道或命名空间抽取专有方法,用注入让被调用模型输出系统提示词,以及协作结束后权限继续保留。

    深度解读完整解读
  7. 防御arXiv 2608.25431

    GIFT:通过 GPU 信息流追踪在 LLM 服务中实现用户数据隔离

    提出 GIFT,用加密与 GPU 信息流跟踪隔离共享 LLM 服务中的用户数据

    发表
    被测模型
    Qwen2.5-14B、Qwen2.5-32B、Qwen2.5-72B 等6个
    摘要GIFT 以加密隔离加 GPU 信息流规则,在 vLLM 与 DistServe 上强制用户数据隔离,并报告了吞吐开销。

    GIFT 是作者为共享 LLM serving 做的用户数据隔离系统,并有启用机密计算的 GIFT-CC。作者在结论中称它是该场景的首个 IFT 设计。

    深度解读完整解读
  8. 少样本示例如何影响针对 LLM 越狱攻击的提示词防御

    分析少样本示范对 RoP 与 ToP 提示防御抗越狱效果的影响

    发表
    被测模型
    Pangu-Embedded-1B、Pangu-Embedded-7B、Pangu-Embedded-7B-Think 等9个
    摘要few-shot 可抬高 RoP、压低 ToP,但表内有反号,Think 模型更低。

    作者评估 few-shot 示范如何改变 RoP 与 ToP 对越狱的防御效果。

    深度解读完整解读
  9. 防御arXiv 2602.13234

    Stay in Character, Stay Safe:面向安全角色扮演智能体的双循环对抗自演化框架

    提出 DASE,以对抗自演化知识库在推理时加固角色扮演抗越狱

    发表
    攻击者
    黑盒
    被测模型
    Kimi-K2-Instruct、GPT-5.2
    摘要DASE 用双循环知识库,在两家闭源模型上同时提高保真分与拒答率。

    DASE 是给专有闭源角色扮演智能体用的训练自由防御,目标是人设保真与安全拒答一起成立,而不是改模型权重。问题在于人设沉浸,尤其负面人设,会压过原有护栏。SFT、数据筛选和正则又跟不上新人设与新攻击,也不能用于没有梯度的 black-box API。

    深度解读完整解读
已经到底了