跳到正文
10月9日 · 周五

全部论文

找到 36 篇
筛选3

攻击类型

越狱6提示注入1模型篡改2提取与窃取1检测规避2

攻击技术

编码与混淆1

模型自身风险

欺骗与谋划5Agent 危险操作1危险能力1拒答失当5幻觉与编造3偏见与歧视3

防御类型

模型加固2推理时干预7检测与过滤1监控与审计4水印与溯源1

影响

有害内容7越权操作1数据与隐私泄露1输出被操纵6可用性与可靠性1监督失效4滥用能力提升1

系统形态

模型与 API32LLM 应用1AI Agent3编程 Agent1多智能体1

攻击者权限

黑盒1灰盒1白盒2

攻击面/入口

用户输入9文档与消息1检索语料1Agent 间消息1图像与音视频1训练数据1权重与梯度1

层

提示层16模型层36应用层49训练与数据层12基础设施层1

系统组件

RAG1护栏与评审2监控器5推理链1微调与开源权重1视觉2音频1多模态3

被测模型厂商

Qwen（阿里）106Google90Meta82OpenAI57Mistral34DeepSeek25Anthropic24Ai223智谱 GLM11Kimi（月之暗面）10Microsoft10上海 AI 实验室9NVIDIA6Stability AI6TII5其他75
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 702 篇还没打标签，不在筛选结果里。
层：模型层被测模型厂商：Mistral被测模型厂商：Microsoft清除全部

另有 702 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv 2610.10276

    PatchBench 提出激活补丁局部评测协议，揭示越狱修复的附带损伤

    提出 PatchBench-Local 协议，评测激活补丁修复越狱的局部附带损伤

    arXiv
    2610.10276
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Mistral-7B-Instruct-v0.3、Ministral-3-14B-Instruct、Qwen2.5-3B-Instruct 等 8 个

    摘要论文提出 PatchBench 与局部评估协议，揭示了激活补丁在全局能力无损下仍存局部良性退化。

    深度解读完整解读
  2. 可解释性arXiv 2610.08559

    研究：LLM 潜在空间去偏方向主要编码置信度而非公平性

    分析 LLM 去偏激活方向，发现其编码置信度而非公平性

    arXiv
    2610.08559
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Ministral-3-8B-Base、Ministral-3-8B-Instruct、Llama-3.1-8B 等 8 个

    摘要论文揭示激活引导去偏见方向主要编码模型置信度而非公平性，偏见评分下降实为诱发弃答或使概率均分的假象。

    深度解读完整解读
  3. 分析与理论arXiv 2610.04860

    研究揭示文本水印会诱发模型幻觉，并提出两种缓解干预

    分析文本水印在 RAG 中诱发事实幻觉的机制并提出干预

    arXiv
    2610.04860
    发表
    层
    模型层
    场景
    LLM 应用
    测试
    Mistral-7B-Instruct-v0.3、LLaMA 3.1 8B Instruct、Qwen2.5-14B-Instruct
    摘要论文揭示了生产环境文本水印导致模型事实退化的失效模式，分析了解码机制并提出针对性干预。

    论文研究生产级文本水印对大语言模型事实准确性的影响，分析了水印诱发幻觉的失效模式并评估了针对性缓解方案。

    深度解读完整解读
  4. 可解释性arXiv 2610.04125

    研究揭示 LLM 风险偏好中自我报告与行为由近乎正交的表征方向控制

    揭示风险自述与实际行为由近正交表征分别控制

    arXiv
    2610.04125
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Ministral-3-8B-Reasoning-2512、Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct 等 4 个
    摘要论文证明大模型自述与行为脱节根植于表征近正交性，自述无法作为行为审计依据。

    这篇论文从内部表征与因果干预视角，系统研究了大语言模型在风险承担（Risk-Taking）场景下自我报告与实际决策脱节的根本机制。

    深度解读完整解读
  5. 评测与基准arXiv 2608.11816

    研究审计 9 个视觉语言模型：中文提示下国家立场改写率约为英文的三倍

    审计视觉语言模型在敏感图像上从拒答转向国家立场重构的行为

    arXiv
    2608.11816
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Pixtral-12B、Qwen2-VL-7B、Qwen2.5-VL-7B 等 9 个
    摘要论文系统审计了 VLM 多模态审查，发现审查正从显式拒答转向隐蔽重构，且中文提示与文本先验会放大重构倾向。

    论文系统研究了中外开源视觉语言模型在政治敏感图像上的审查行为，主要内容如下。

    深度解读完整解读
  7. 防御arXiv 2607.24017

    多模态大模型注意力中的语义与结构偏差解耦：SPAR 免训练干预方法

    提出 SPAR 以分离注意力结构偏置并重分配视觉注意力，减轻多模态幻觉

    arXiv
    2607.24017
    发表
    层
    模型层
    场景
    模型与 API
    测试
    LLaVA-v1.6-mistral-7b、LLaVA-v1.5、LLaVA-1.5-7B 等 7 个
    摘要SPAR 用显著性净化文本结构偏置并重分配注意力，在 LLaVA 上同时压低自发幻觉、抬升 gaslighting 后准确率。

    SPAR 是一种免训练的 MLLM 推理时干预，用来把注意力里的结构偏置和语义视觉信号分开。

    深度解读完整解读
  8. 可解释性arXiv 2609.10060

    研究者提出基于参考的隐藏状态相对表示偏见检测方法

    用相对表示比较微调前后隐状态，检验表征偏见偏移与输出偏见是否共变

    arXiv
    2609.10060
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Mistral-7B-Instruct-v0.3、Llama 3.1-8B-Instruct、Gemma 3-4B-IT
    摘要相对表示上的∆B 在多数微调设置中与三个基准的输出层偏见变化共变。

    Reference-Based Bias Detection用锚句相对表示比较微调前后的隐状态，定义表征偏见偏移∆B，用来审计相关模型变体，而不为每种危害另建输出基准。

    深度解读完整解读
  9. 分析与理论arXiv 2609.37312

    研究：隐蔽推理必然留下信息痕迹，但思维链未必可读

    分析隐蔽推理在思维链监控下的信息足迹下界与不可读性

    arXiv
    2609.37312
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Mistral Large 3、Ministral 3 3B、Qwen2.5-7B-Instruct 等 12 个

    摘要论文从理论与实证探明了思维链监控的边界：复杂隐蔽计算必然泄露信息足迹且需承担长度税，但该足迹可被在线加密而不可读。

    深度解读完整解读
  10. 分析与理论arXiv 2609.36477

    研究发现护栏模型在基座模型不确定处过度自信

    诊断护栏相对基座在对抗提示上的置信失校

    arXiv
    2609.36477
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Mistral 7B、Llama-Guard 7B、Llama-Guard-2 8B 等 10 个
    摘要对抗包装使 guard 高置信漏检，而对应 base 在同一输入上常更不确定。

    诊断性分析：五个提示词分类 guard 的置信度，在清洁输入上可以较校准，在越狱包装后则变成高置信度的错误判定。

    深度解读完整解读
  13. 可解释性arXiv 2609.04721

    研究：拒答方向可跨架构迁移，安全工具可按写入位置重新估计

    在写入点定位拒答方向，经刚性旋转跨架构迁移并门控放大

    arXiv
    2609.04721
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Mistral-7B、Codestral-Mamba-7B、Falcon-Mamba-7B 等 8 个
    摘要拒答方向可经刚性旋转跨架构迁移，但必须在各架构的写入点读取。

    作者研究拒答表示是否随架构改变，结论是表示共享、读取位置随架构变。

    深度解读完整解读
  14. 可解释性arXiv 2609.06934

    论文提出拒答的几何解释：事后安全训练脆弱，预训练期持续安全共训更抗攻击

    解释后验安全的权重几何脆弱性，并提出预训练持续安全共训练

    arXiv
    2609.06934
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Mistral-7B-v0.3、Mistral-7B-Instruct-v0.3、Qwen-2.5-7B 等 15 个

    摘要论文将后验安全脆弱性归因于正交抑制，并提出通过预训练持续共训练实现具备微调抗性的安全防护。

    深度解读完整解读
  17. 可解释性arXiv 2609.18612

    研究揭示 Transformer 中影响超常的削弱型神经元

    用权重余弦给 GLU 神经元做读写功能分类并检验消融影响

    arXiv
    2609.18612
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Mistral-7B-v0.1、OLMo-7B-0424、Gemma-2-2B 等 9 个
    摘要GLU 神经元的读写余弦呈现先加强后削弱的层模式，晚期少量 weakening 神经元对输出影响大。

    这篇分析工作用输入权重与输出权重的余弦，给 GLU 神经元的读写功能分类，并检查这些类的层分布、激活频率和对下一 token 分布的影响。

    深度解读完整解读
  19. 可解释性arXiv 2609.06289

    LLM 激活引导空间能否反映人类价值几何？EMNLP 2026 研究发布 26K 样本基准

    检验激活引导向量的几何是否符合人类价值结构

    arXiv
    2609.06289
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Mistral-7B、Qwen3.5-9B-Base、Qwen3.5-9B-Instruct 等 12 个
    摘要分布驱动的 steering 向量更符合 Schwartz 几何，并带来更可预测的跨价值迁移。

    作者研究推理时 activation steering 的向量，是否在几何上符合人类价值理论，而不只是改变单一目标行为。

    深度解读完整解读
  20. 可解释性arXiv 2609.06951

    研究：激活引导的干扰反映模型默认倾向而非行为方向

    分析激活引导干扰反映模型默认倾向而非行为方向

    arXiv
    2609.06951
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Mistral-7B、Qwen2.5-1.5B、Qwen2.5-3B 等 10 个
    摘要Steer 的副作用是模型被扰动后落入的少数默认行为，几何重叠预测不了这些副作用。

    Activation steering 的跨行为干扰由模型的默认集合决定，而不是由行为方向的几何重叠决定。。

    深度解读完整解读
加载更多