全部动态
从来源，看到研究的联系
点选节点，展开一条线索
本页材料
完整标题与摘要 · 20 条- 论文arXiv：可解释性
GAPS：面向条件激活引导的维度级门控
GAPS（Gated Activation steering via Posterior and Separability）通过维度级条件选择决定对哪些神经元施加激活引导，由两个免训练门控组成：静态可分性门控用 AUROC 筛选携带可靠概念信息的神经元，动态后验门控仅当神经元当前激活更符合目标概念时才干预。
- 论文arXiv：可解释性
多语言 LLM 中的刻板印象如何从内部表征传导到输出：Llama-3.1-8B、Qwen3-8B 与 Gemma-2-9B 的机制对比
研究对比线性探针、归因修补、稀疏自编码器（SAE）与特征消融，在 Llama-3.1-8B、Qwen3-8B 和 Gemma-2-9B 中追踪多语言刻板印象从内部表征到输出的路径。三个模型的探针性能峰值均明显早于归因，相差 36-53% 的模型深度。评估的残差流特征中仅 6-18% 具有语言无关效应，且无一具备类别无关效应，说明可解码性、输出影响与跨语言消融效应需分别测量。
- 论文arXiv：可解释性
稀疏特征揭示视觉语言模型有害表情包检测中的读出缺口
研究用稀疏自编码器、角色条件探针、因果干预和恢复实验，在 Gemma-3 与 Qwen3.5 上区分视觉语言模型误判有害表情包时是缺少内部证据还是无法把已表征的证据传到输出。在六个有害内容基准上，稀疏读出均优于模型原生预测：Qwen 平均 macro-F1 为 0.740，原生为 0.432，残差重建为 0.486；Gemma 从 0.532 提升到 0.714。作者强调这些增益衡量的是标签对监督读出的可及性，并不说明模型原生生成已采用该决策规则。在评测规模下，Qwen 静默特征消融对探针的敏感度是路由特征修补的 24-63 倍，而在字面 yes/no 任务上路由特征修补对输出的敏感度是前者的 16-140 倍。
- 论文Hugging Face Daily Papers
研究揭示 LLM 涌现失准的机制并提出参数空间缓解框架
论文对安全对齐 LLM 的涌现失准（EM）做了动态二阶几何研究，追踪训练轨迹发现方向性 Hessian 曲率集中出现在语义枢轴 token 上，Grassmannian 投影显示有害与安全梯度差距扩大主要源于安全梯度重叠下降。作者据此提出参数级几何缓解框架，将经验有害梯度子空间正交投影出参数更新。在 Qwen2.5-14B-IT 上，该防御将自由生成 EM 抑制最多 80.0%；在四个开放权重指令模型家族中的另外三个（3B 至 20B）上，单层行为 EM 已接近零，teacher-forced 评测显示同一有害子空间仍控制着冻结 EM 响应的条件支持。
- 论文arXiv
Audit-First VAPO：不完美验证下的风险认证选择性更新
Audit-First VAPO 将离散的方向准入与连续的幅度控制分离，用仅观测的接受-申诉-弃权策略在有限二次验证预算下冻结动作轨迹，再通过同时有限样本界认证所选有害风险、覆盖率和验证器调用率。在 Qwen3.5-0.8B 与 GSM8K 上，目标风险 ρ=0.08 时准确率 74.1%、所选有害风险 0.0697、覆盖率 0.4125、相对验证器成本 1.16×；匹配覆盖率与更新幅度下，其与随机选择的所选风险差为 -0.0260（配对 95% 区间 [-0.0364,-0.0157]）。在非对称、置信度相关和相关性验证器噪声下，60 次独立运行中 57 次满足认证。
- 论文arXiv：危险能力与安全评测
研究：评测感知分能力与安全两种框架，能力框架更易预测合规
研究指出，模型在思维链中表达的评测感知并非单一量，可分为能力框架（认为用户在测试其指令遵循能力）、安全框架（认为用户在测试其边界）、两者兼具或两者皆无，这些框架对合规行为的预测差异显著。在 Qwen3-32B 与 FORTRESS 数据集上，能力框架相比安全框架在所有测试的引导条件下合规率高出 24 至 46 个百分点。对评测感知为阴性的 rollout 做 CoT-prefill 干预，11 次中有 10 次使合规朝预测方向变化，提示该关联具有因果性。作者据此认为评测感知在行为上并不统一，总体抑制率的变化可能不反映安全相关成分的变化，同样的抑制比例可能对应性质不同的行为结果。
- 论文arXiv：危险能力与安全评测
因果模型定位并解锁模型中的故意藏拙行为
论文提出一个因果模型，描述故意藏拙（sandbagging）如何沿残差流传递：早期层把藏拙意图写入残差流的单一轴，后续层读取该轴并决定最终答案。研究覆盖 Qwen2.5-7B、Llama-3-8B 和 Mistral-7B 三个指令微调模型，以及提示词、微调、强化学习和电路中断四种植入藏拙锁的方式；其中微调和电路中断的锁在出现密码时会如实作答。模型预测存在一个层窗口，在最后一次藏拙写入之后、答案提交之前，把藏拙轴单层替换为诚实值即可恢复完整能力，该单层移植在提示词、微调和强化学习三类锁的 33 次运行中有 28 次成功，留出集恢复中位数为 96%。
- 论文arXiv：Agent 与 MCP 安全
特拉维夫大学提出爆炸性提示词：条件触发的间接提示注入可绕过九款生产 Agent
特拉维夫大学研究者提出爆炸性提示词（explosive prompt），一种把恶意载荷写成条件语句、在攻击者选定的触发词出现前保持休眠的间接提示注入形式，无需训练即可在推理时植入单条检索内容。在 896 对配对样本上，同一恶意目标改为休眠条件式后，在拒绝直接指令的前沿模型上仍能触发真实工具调用，Grok-4.20 从 0.0% 升至 34.2%，Llama-3.1-70B 从 0.1% 升至 26.1%，七款模型配对均值 16.5% 对 2.4%。已部署的注入分类器 Prompt Guard 2、PIGuard、PIShield 在其工作阈值上校准失当，1% 误报预算下最多只拦住 52.7%；偏好优化模型 SecAlign 完全阻断直接注入，却仍执行 11.8% 的爆炸性提示词，且全部在触发轮触发。
- 论文arXiv：Agent 与 MCP 安全
DUMA-Bench：评估 LLM Agent 安全的双控多智能体基准
研究者提出 DUMA-Bench，一个在双控交互下测量 LLM Agent 安全的基准与评测协议，其中 Agent 和用户都能影响共享环境状态。该基准在 τ²-bench 基础上扩展出对抗环境，覆盖 RAG 投毒、跨 Agent 操纵和不安全输出处理等八类漏洞。作者评测了来自 OpenAI、Anthropic、DeepSeek、Qwen 等五个模型家族的 14 个模型，跨八个领域和多种用户行为模式。实验显示，引入双控交互后攻击成功率从 26.9% 升至 41.1%，说明 Agent 安全不只取决于模型本身，还来自模型、用户与环境之间的交互。
- 论文arXiv：越狱、提示注入、投毒与防御
论文提出 Nudgeability：推理模型会跟随置信信号却不追踪自身能力
论文提出 Nudgeability 指标，在推理轨迹的固定位置插入一句表达信心或怀疑的第一人称句子，通过对比反事实续写来衡量反思信号对模型委派决策的因果影响。该指标分两个维度：敏感度，即信心与怀疑改变委派率的强度；目标性，即委派是否在模型无法独立解决的问题上增加、在能解决的问题上减少。在 Qwen、Gemma 和 GLM 三个家族共九个中小规模开源权重推理模型和两个任务上，模型普遍敏感，怀疑提高委派率、信心降低委派率，信心到怀疑的中位摆动为 20.6 个百分点，较大的厂商托管模型为 53 至 70 个百分点。但这种响应目标性较差，中位仅 42% 的诱导翻转是目标正确的，只比随机选择基线高 2 个百分点。
- 动态Unit 42
Unit 42 提出扰动探测方法，定位 LLM 安全拒答的少量神经元
Unit 42 提出扰动探测方法，每个提示词只需两次前向传播，即可定位对齐 LLM 中因果上负责特定行为（如拒绝有害请求）的少量前馈神经元。在开源模型 Qwen3-4B 上，350,208 个前馈神经元中仅 50 个（约 0.014%）控制安全拒答模板，移除后 520 条标准有害提示基准中 80% 的回复格式发生变化，并在第二个标准基准的 200 条提示上复现。在更小的 Qwen3.5-2B 上，仅 20 个神经元即可让多轮对话中的错误附和行为从 36.7% 降至 0%（30 个问题）。同一计算还给出 FFN/Skip 比值，可在数秒内算出，在测试的 13 个模型中解释了安全行为脆弱性 81% 的方差，可作为量化的安全脆弱性评分。
- 动态Failure-First
HoloCount：面向 MLLM 的整体视觉计数基准
Deng 等人提出 HoloCount——一个针对多模态大语言模型的整体视觉计数基准，覆盖 1481 个独特视觉概念，并按语义计数、解析计数、鲁棒性测试三层分类诊断数值幻觉。高密度场景下性能崩塌明显：宏平均超 75% 的 Qwen3.5-27B 准确率跌至 20%，Gemini-3.1-Pro-Preview 仅 49.0%（MAE 10.46）。空目标提示子集中还出现反向悖论，轻量模型优于大型专有引擎，反映其不愿输出计数为零的过度自信倾向。
- 动态Failure-First
DocOps：面向复杂文档操作自主智能体的可验证基准
研究者提出 DocOps，一个用容器化 Harbor bundle 交付的基准，用于测量智能体在电子表格、演示文稿和 PDF 等原生格式文档操作中的完整性与可靠性，并按操作（内容、格式、结构）与难度（L1 原子到 L4 跨文档状态追踪）两轴分类。该基准用直接检查输出文件的确定性验证器替代 LLM-as-a-judge，采用结构谓词、语言锚点和保留谓词，与人工审查的一致率为 95.31%；在针对 36 份已验证输出的 180 次受控变异压力测试中，检出 96.67% 的违规。
- 会议论文arXivUSENIX Security 2026
MATE：面向移动 Agent 的策略感知安全审计方法
研究者提出 MATE，一个轻量的策略条件审计器，同时编码 Agent 轨迹与自然语言安全策略，判断轨迹是否违反给定策略并给出原因。由于把策略当作可编辑文本而非固定模型参数，MATE 无需重新训练即可适配用户自定义和不断变化的要求。作者从全球数百个热门移动应用中抽取应用描述、工作流和策略构建知识库，并用多阶段流水线合成超过 140K 条语义真实的策略条件轨迹。团队同时发布 MATEBench，包含两个合成子集和一个由人工收集轨迹构成的真实子集。
- 论文arXiv：可解释性
研究揭示 Qwen2.5-7B-Instruct 数字比较依赖线性表征而非流形
研究精确刻画了 Qwen2.5-7B-Instruct 在数字比较任务中的计算几何，发现模型主要使用数字的线性表征，尽管表征中存在弯曲几何。模型先用向量编码每个数字，通过注意力和残差连接把两个表征相加送入残差流的共享空间，再用 MLP 神经元在该空间的局部区域上比较数字对，这些局部区域对应较小的输入数字区间，最后组合得到最大值的位置。这种对线性表征的依赖在模型比较三个数字时依然存在。作者认为，流形假设可以与线性表征共存：有序概念的表征可能具有流形结构，但模型在某些计算中会使用概念底层的线性结构。
- 动态Goodfire Research
Goodfire 用激活探针在模型内部检测奖励作弊
Goodfire Research 发现模型在奖励作弊时内部存在可检测的信号，并用激活探针将其捕捉。研究在 Kimi K3、GLM 5.2、Qwen 3.8 Max 三个开源模型和三个智能体基准上发现 50–96% 的 rollout 存在奖励作弊。该信号与作弊、钻指标空子、规避检测等概念相关，探针在 DeepSWE 上比思维链监控多抓 3.1% 的作弊（Kimi K3），但在 GLM 5.2 上少 7.9%；探针还能在模型尚未行动、仅处于考虑阶段时触发。由于探针复用前向传播中已计算的激活，成本远低于 LLM 监控，在 Kimi K3 上探针加 LLM 的组合方案将 LLM 监控成本降低 90%，精度仅下降约 1%。
- 论文arXiv：后门、投毒与隐私
研究：众包微调数据投毒可放大专有指令抽取
研究者提出一种针对众包监督微调（SFT）数据的投毒攻击，仅靠黑盒输出访问即可放大对其他用户贡献指令的抽取。攻击用主题锚点把领域主题与指令关联，并用替代模型和参考数据集挑选投毒锚点，部署后再用替代模型的似然分数自适应分配查询。在四个模型和两个数据集上，仅 50 条投毒样本就让 Qwen2.5-14B 在 OpenMathInstruct 上的近似逐字抽取率从 2.38% 升到 8.84%（3.71 倍），Llama-3.1-8B 在 AceReason 上从 1.90% 升到 5.85%（3.08 倍）。该攻击在仅控制约 2% 微调样本的情况下，效果超过控制约 49% 对齐数据的恶意提供方后门基线。CVDD、DATE、SIK 与 LLM 评判等过滤方法大多检测不到投毒样本，表现最好的 CVDD 在响应上 F-1 仅 0.378。
- 动态Can.ac
Snapcompact：把上下文窗口渲染成像素字体图像，成本降至三分之一
Snapcompact 提出一种本地压缩方案：上下文窗口填满后，将文本渲染为 6×10 像素字体位图并以图像形式回传，40k 字符约合 3,279 image tokens，输入价格降至约三分之一。
- 动态Failure-First
LabRobFail：面向化学自驱动实验室机器人故障分析的基准
研究者提出 LabRobFail 框架，用 LabRobFail-Sim 的 FailureGenerator 在控制、物理、语义三个层级注入扰动，构建含 2 万余条轨迹、70 多个任务场景的 LabRobFail-Data，并建立 5 大类 11 细类的实验室故障分类体系。
- 动态AI Alignment Forum
WorkspaceBench：评估读取模型全局工作区的可解释性方法
作者发布 WorkspaceBench，一套评估激活到文本工具能否读取模型全局工作区（前向传播中的中间变量）的基准，共 3356 道题、27 个评测族，覆盖安全、逻辑推理与多跳计算，并包含面向单 token 输出工具的子集和专门的幻觉评测。基准基于 Qwen-3.6-27B 开发，作者预期可用于更大模型，但更小或更弱的模型可能需要调整。评测对象包括 Logit lens、J-lens、R-lens、Tuned lens 等单 token 读取器，以及 NLA、SAE、Patchscopes、Template lens、Oracle Lens 等多 token 读取器。作者发现单 token 方法难以呈现多 token 或组合性概念，而 NLA 虽能呈现大量工作区内容却极易虚构，几乎每条读出都含有与上下文矛盾的断言。