跳到正文
10月9日 · 周五

全部论文

找到 33 篇
筛选4

攻击类型

越狱5提示注入1模型篡改2检测规避1

模型自身风险

欺骗与谋划5奖励作弊1失准与价值偏离1Agent 危险操作1危险能力1拒答失当5幻觉与编造2偏见与歧视3

防御类型

模型加固2推理时干预6检测与过滤1监控与审计4水印与溯源1

影响

有害内容7越权操作1输出被操纵6可用性与可靠性1监督失效4滥用能力提升1

系统形态

模型与 API33LLM 应用1AI Agent3编程 Agent0多智能体1

攻击者权限

白盒1

攻击面/入口

用户输入7文档与消息1检索语料1训练数据1权重与梯度1

层

提示层10模型层33应用层7训练与数据层9

系统组件

护栏与评审3监控器5推理链1微调与开源权重1视觉2多模态2

被测模型厂商

Qwen（阿里）105Google95Meta83OpenAI57Mistral33DeepSeek24Anthropic24Ai221Kimi（月之暗面）11上海 AI 实验室9智谱 GLM8Microsoft8EleutherAI7Stability AI6NVIDIA5TII5其他81
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 664 篇还没打标签，不在筛选结果里。
系统形态：模型与 API系统形态：编程 Agent层：模型层被测模型厂商：Mistral清除全部

另有 664 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv 2610.10276

    PatchBench 提出激活补丁局部评测协议，揭示越狱修复的附带损伤

    提出 PatchBench-Local 协议，评测激活补丁修复越狱的局部附带损伤

    arXiv
    2610.10276
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Mistral-7B-Instruct-v0.3、Ministral-3-14B-Instruct、Qwen2.5-3B-Instruct 等 8 个

    摘要论文提出 PatchBench 与局部评估协议，揭示了激活补丁在全局能力无损下仍存局部良性退化。

    深度解读完整解读
  2. 可解释性arXiv 2610.08559

    研究：LLM 潜在空间去偏方向主要编码置信度而非公平性

    分析 LLM 去偏激活方向，发现其编码置信度而非公平性

    arXiv
    2610.08559
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Ministral-3-8B-Base、Ministral-3-8B-Instruct、Llama-3.1-8B 等 8 个

    摘要论文揭示激活引导去偏见方向主要编码模型置信度而非公平性，偏见评分下降实为诱发弃答或使概率均分的假象。

    深度解读完整解读
  3. 可解释性arXiv 2610.04125

    研究揭示 LLM 风险偏好中自我报告与行为由近乎正交的表征方向控制

    揭示风险自述与实际行为由近正交表征分别控制

    arXiv
    2610.04125
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Ministral-3-8B-Reasoning-2512、Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct 等 4 个
    摘要论文证明大模型自述与行为脱节根植于表征近正交性，自述无法作为行为审计依据。

    这篇论文从内部表征与因果干预视角，系统研究了大语言模型在风险承担（Risk-Taking）场景下自我报告与实际决策脱节的根本机制。

    深度解读完整解读
  4. 评测与基准arXiv 2608.11816

    研究审计 9 个视觉语言模型：中文提示下国家立场改写率约为英文的三倍

    审计视觉语言模型在敏感图像上从拒答转向国家立场重构的行为

    arXiv
    2608.11816
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Pixtral-12B、Qwen2-VL-7B、Qwen2.5-VL-7B 等 9 个
    摘要论文系统审计了 VLM 多模态审查，发现审查正从显式拒答转向隐蔽重构，且中文提示与文本先验会放大重构倾向。

    论文系统研究了中外开源视觉语言模型在政治敏感图像上的审查行为，主要内容如下。

    深度解读完整解读
  6. 防御arXiv 2607.24017

    多模态大模型注意力中的语义与结构偏差解耦：SPAR 免训练干预方法

    提出 SPAR 以分离注意力结构偏置并重分配视觉注意力，减轻多模态幻觉

    arXiv
    2607.24017
    发表
    层
    模型层
    场景
    模型与 API
    测试
    LLaVA-v1.6-mistral-7b、LLaVA-v1.5、LLaVA-1.5-7B 等 7 个
    摘要SPAR 用显著性净化文本结构偏置并重分配注意力，在 LLaVA 上同时压低自发幻觉、抬升 gaslighting 后准确率。

    SPAR 是一种免训练的 MLLM 推理时干预，用来把注意力里的结构偏置和语义视觉信号分开。

    深度解读完整解读
  7. 可解释性arXiv 2609.10060

    研究者提出基于参考的隐藏状态相对表示偏见检测方法

    用相对表示比较微调前后隐状态，检验表征偏见偏移与输出偏见是否共变

    arXiv
    2609.10060
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Mistral-7B-Instruct-v0.3、Llama 3.1-8B-Instruct、Gemma 3-4B-IT
    摘要相对表示上的∆B 在多数微调设置中与三个基准的输出层偏见变化共变。

    Reference-Based Bias Detection用锚句相对表示比较微调前后的隐状态，定义表征偏见偏移∆B，用来审计相关模型变体，而不为每种危害另建输出基准。

    深度解读完整解读
  8. 分析与理论arXiv 2609.37312

    研究：隐蔽推理必然留下信息痕迹，但思维链未必可读

    分析隐蔽推理在思维链监控下的信息足迹下界与不可读性

    arXiv
    2609.37312
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Mistral Large 3、Ministral 3 3B、Qwen2.5-7B-Instruct 等 12 个

    摘要论文从理论与实证探明了思维链监控的边界：复杂隐蔽计算必然泄露信息足迹且需承担长度税，但该足迹可被在线加密而不可读。

    深度解读完整解读
  9. 分析与理论arXiv 2609.36477

    研究发现护栏模型在基座模型不确定处过度自信

    诊断护栏相对基座在对抗提示上的置信失校

    arXiv
    2609.36477
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Mistral 7B、Llama-Guard 7B、Llama-Guard-2 8B 等 10 个
    摘要对抗包装使 guard 高置信漏检，而对应 base 在同一输入上常更不确定。

    诊断性分析：五个提示词分类 guard 的置信度，在清洁输入上可以较校准，在越狱包装后则变成高置信度的错误判定。

    深度解读完整解读
  12. 防御arXiv 2609.31122

    LocUS：面向定向激活引导的注意力头选择与子空间投影

    提出 LocUS，用词汇子空间选择注意力头并约束激活转向

    arXiv
    2609.31122
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Mistral-7B-v0.1、Mistral-7B-Instruct-v0.3、Llama-3.1-8B 等 7 个
    摘要LocUS 用词汇子空间约束 DoM 转向的位置和方向。

    LocUS 是不更新权重的推理时转向方法，把差分均值更新限制在少数注意力头及其属性对齐子空间。

    深度解读完整解读
  13. 防御arXiv 2609.32720

    BiasReducer：面向奖励模型的自适应偏见缓解方法

    B IAS R EDUCER 只改奖励头，按数据集选择属性编辑。

    arXiv
    2609.32720
    发表
    层
    模型层
    场景
    模型与 API
    测试
    RM-Mistral-7B、Skywork-Reward-V2-Qwen3-1.7B、GRM-Llama3.2-3B-rewardmodel-ft 等 7 个
    摘要BIASREDUCER 按数据集选择奖励头编辑，五模型三基准平均提升并迁移到下游训练。

    BIASREDUCER 是一种只改线性奖励头的奖励模型编辑框架，用来降低模型对预定义表面属性的依赖，并按新数据集决定改哪些属性。

    深度解读完整解读
  14. 可解释性arXiv 2609.04721

    研究：拒答方向可跨架构迁移，安全工具可按写入位置重新估计

    在写入点定位拒答方向，经刚性旋转跨架构迁移并门控放大

    arXiv
    2609.04721
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Mistral-7B、Codestral-Mamba-7B、Falcon-Mamba-7B 等 8 个
    摘要拒答方向可经刚性旋转跨架构迁移，但必须在各架构的写入点读取。

    作者研究拒答表示是否随架构改变，结论是表示共享、读取位置随架构变。

    深度解读完整解读
  15. 可解释性arXiv 2609.06934

    论文提出拒答的几何解释：事后安全训练脆弱，预训练期持续安全共训更抗攻击

    解释后验安全的权重几何脆弱性，并提出预训练持续安全共训练

    arXiv
    2609.06934
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Mistral-7B-v0.3、Mistral-7B-Instruct-v0.3、Qwen-2.5-7B 等 15 个

    摘要论文将后验安全脆弱性归因于正交抑制，并提出通过预训练持续共训练实现具备微调抗性的安全防护。

    深度解读完整解读
  18. 可解释性arXiv 2609.18612

    研究揭示 Transformer 中影响超常的削弱型神经元

    用权重余弦给 GLU 神经元做读写功能分类并检验消融影响

    arXiv
    2609.18612
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Mistral-7B-v0.1、OLMo-7B-0424、Gemma-2-2B 等 9 个
    摘要GLU 神经元的读写余弦呈现先加强后削弱的层模式，晚期少量 weakening 神经元对输出影响大。

    这篇分析工作用输入权重与输出权重的余弦，给 GLU 神经元的读写功能分类，并检查这些类的层分布、激活频率和对下一 token 分布的影响。

    深度解读完整解读
  19. 可解释性arXiv 2609.06289

    LLM 激活引导空间能否反映人类价值几何？EMNLP 2026 研究发布 26K 样本基准

    检验激活引导向量的几何是否符合人类价值结构

    arXiv
    2609.06289
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Mistral-7B、Qwen3.5-9B-Base、Qwen3.5-9B-Instruct 等 12 个
    摘要分布驱动的 steering 向量更符合 Schwartz 几何，并带来更可预测的跨价值迁移。

    作者研究推理时 activation steering 的向量，是否在几何上符合人类价值理论，而不只是改变单一目标行为。

    深度解读完整解读
  20. 可解释性arXiv 2609.06951

    研究：激活引导的干扰反映模型默认倾向而非行为方向

    分析激活引导干扰反映模型默认倾向而非行为方向

    arXiv
    2609.06951
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Mistral-7B、Qwen2.5-1.5B、Qwen2.5-3B 等 10 个
    摘要Steer 的副作用是模型被扰动后落入的少数默认行为，几何重叠预测不了这些副作用。

    Activation steering 的跨行为干扰由模型的默认集合决定，而不是由行为方向的几何重叠决定。。

    深度解读完整解读
加载更多