跳到正文

开源模型安全

今天新收录 17 条(含旧文)

第 5 页更新的内容回到最新

10月2日周五
  1. Check Point Research · 收录 · 原文 56

    Check Point 逆向 Windows Defender BTR.sys 驱动,将其改造为内核操作原语

    Check Point 逆向 Windows Defender 的 Boot-Time Removal 驱动 BTR.sys,发现其通过注册表 Args 指向的 ADS 中 RC4 加密配置执行文件与注册表操作,无需漏洞或内存破坏即可在 Ring 0 执行任意操作。研究给出完整事务格式,包括 0xFEE1DEAD 魔数、版本 2、~CRC32 完整性校验和硬编码 256 字节 RC4 密钥,并发布 MIT 许可的 BTR_CLI 工具构造合法加密事务。利用该驱动在 Phase 1 的 Boot Bus Extender 组加载时机,可在用户态安全服务启动前删除 WdFilter.sys、MsMpEng.exe 等 Defender 二进制并绕过 Tamper Protection,测试覆盖 Windows 7 至 Windows 11 25H2。

    推荐理由完整逆向 Windows Defender 的 BTR.sys 驱动,展示如何用微软签名驱动在 Ring 0 执行任意文件与注册表操作,并给出 Sysmon 检测思路。

  2. FAR.AI · 收录 · 原文 60

    FAR.AI 压力测试 DeepSeek-V4-Pro:三种攻击策略下护栏成功率 98% 至 100%

    FAR.AI 对 DeepSeek-V4-Pro 的护栏做了安全压力测试,在 CBRN、网络攻击和恐怖主义相关等高风险领域,模型对直接请求的拒答率为 100%,但在对抗条件下三种攻击策略的成功率达到 98% 至 100%。三种攻击均通过官方 DeepSeek API 完成,无需本地部署:复用公开越狱提示词模拟无限制的开发者测试模式,成功率 100%,约需 15 分钟;伪造特权用户身份,成功率 99.6%,约需 45 分钟;在模型回复中预填伪造的安全评估,成功率 99.6%,约需 150 分钟。被越狱后模型在生物、化学和编程任务上仍保持接近基线的能力,能生成细节充分的威胁场景回答。

    推荐理由FAR.AI 用三种攻击策略测出 DeepSeek-V4-Pro 的拒答在对抗条件下几乎全部失效,并指出旧版越狱可直接迁移。

  3. Cisco · 收录 · 原文 15

    Foundation AI 发布 Antares 系列模型与安全推理基准

    Foundation AI 发布 Antares 系列开放权重模型(350M、1B、3B),专用于智能体漏洞定位:仅凭 CWE 描述和仓库只读权限即可定位漏洞所在文件,其中 3B 模型性能对标 GPT-5.5,且可本地运行。Antares-350M 与 Antares-1B 已公开,一个月内在 Hugging Face 下载量达 29,800 次。团队还在 FAITH 评测中心新增 CTI-Reasoning 和 CWE-Prediction 两项推理基准,用于衡量模型对安全问题的推理能力而非记忆事实。

  4. Cisco · 收录 · 原文 42

    Cisco 与 VAIL 研究:以国别标签判断 AI 模型风险存在盲区

    Cisco 与 VAIL 的研究发现,仅凭发布者和国别标签评估 AI 模型安全会留下明显盲区,因为模型常继承跨组织、跨国界的权重与训练依赖,形成所谓血缘纠缠。研究用两种独立指纹方法验证:Cisco 的 Model Provenance Kit 分析模型权重,VAIL 则对推理行为做指纹。以 NVIDIA Nemotron 家族为案例,其中部分模型公开记录使用 Qwen 基础权重,两种方法都发现 Qwen 在 Qwen 系 Nemotron 最近邻中的占比高于其在目录中的基准比例,Cisco 184 模型目录中为 20.9% 对 12.0%,VAIL 1159 模型目录中为 28.1% 对 14.9%,且都还原了 Qwen、NVIDIA、Llama 三组的既有排序。作者强调相似性是证据而非因果证明,指纹可用于企业部署前的血缘核查与事件后排查,但不能替代托管与运营控制层面的判断。

  5. IAPS · 收录 · 原文 43

    IAPS 评估 RASA 法案:建议将云基础设施定义扩展至 PaaS

    IAPS 发布关于《远程访问安全法案》(RASA)的政策简报,评估该立法应如何界定范围,并建议参议院文本 S. 3519 扩大对云基础设施的定义。简报指出,美国出口管制限制向中国出售先进 AI 芯片,但未明确覆盖通过云远程租用的同等算力,RASA 将补上 BIS 在这一权限上的缺口。参议院文本目前仅把云基础设施服务定义为 IaaS,只覆盖租用裸金属算力训练模型的实体,却不覆盖同一实体在托管平台服务上训练的情形,IAPS 建议至少纳入有明确边界的 PaaS 定义。简报还提示,若 RASA 像已通过的众议院文本 H.R. 2683 那样延伸到 SaaS,可能赋予 BIS 对访问美国 AI 模型的管制权限;文中提到商务部致 Anthropic 的信函要求 Mythos 5 与 Fable 5 模型出口需许可,但未建立模型专属 ECCN,也未明确是否覆盖通过 SaaS 远程访问模型。

  6. arXiv:防御、护栏、反学习与有害微调 · 收录 · 原文 论文43

    ShieldCLIP:面向多模态基础模型有害内容的选择性安全对齐

    研究提出 ShieldCLIP,首个按每个模态自身安全状态而非样本来源来条件化安全对齐的框架,在保留安全内容的同时只重定向不安全部分。作者同时发布 ViSUv2 数据集,包含 195k 四元组、覆盖 578 个概念和 28 个类别,并为每个模态提供独立安全标签。基于这些标签,ShieldCLIP 定义了四路条件目标:安全内容锚定,不安全模态重定向到对应安全版本,混合样本只更新不安全分支,双模态均不安全时强制一致性。在跨模态检索、Stable Diffusion v1.4 与 SDXL 的文生图以及 LLaVA 的图生文任务上,ShieldCLIP 相比此前的安全对齐编码器和强缓解基线持续减少有害输出,同时保留原始嵌入空间的效用。消融实验显示模态特定监督与选择性对齐目标均有贡献。

  7. SecureBio · 收录 · 原文 57

    SecureBio 评测 Kimi K3 生物能力:BCI 142,危险提示拒答率仅 26.9%

    SecureBio 对 Moonshot AI 的 Kimi K3 做了生物能力与护栏评测,其 Bio Capabilities Index(BCI)得分为 142,在已评测模型中排第七,相当于闭源前沿约 8.1 个月前的水平。知识基准上,Kimi K3 在 Virology Capabilities Test 得 46.7%、Molecular Biology Capabilities Test 得 58.4%、World Class Biology 得 55.0%、Human Pathogen Capabilities Test 得 58.5%,在 MBCT、WCB、VCT 上取得开源权重模型最高分,HPCT 则落后于 GLM-5.2 的 65.3%。

    推荐理由SecureBio 用自建生物能力指数和 BioTIER 护栏评测给出 Kimi K3 与闭源前沿的能力差距和拒答率,可对照开源权重生物风险。

10月1日周四
  1. 论文追踪 · 收录 · 原文 论文56

    研究显示简单攻击可绕过 gpt-oss 等推理模型的安全护栏

    研究者发现,基于推理的安全护栏依赖推理阶段与回答阶段之间的模板 token 切换逻辑,这一逻辑可被简单操纵,从而绕过安全推理或劫持推理过程。他们据此提出四种红队方法:强制阶段切换通过注入模板 token 和伪造的安全理由让模型跳过推理;强制优化用梯度搜索不含模板 token 的对抗后缀触发回答阶段;伪造过度拒答借助辅助模型把有害问题改写成看似过度拒答的表述;推理劫持则把攻击者指定的推理链嵌入推理阶段以生成更定向的有害内容。在本地 gpt-oss-20b 和 120b 测试中,推理劫持在 StrongREJECT、AdvBench、HarmBench、CatQA、JBB-Behaviors 五个基准上的攻击成功率均超过 90%;其余方法及 API 设置的结果各有差异。作者还测试了 Qwen3、Phi-4、DeepSeek-R1 以及 TARS、SafeChain 等模型和推理式防御。

    推荐理由论文揭示推理式安全护栏的阶段切换逻辑可被简单操纵,并给出跨模型与闭源 API 的攻击成功率,为护栏设计提供可迁移的失效分析。

  2. Hugging Face Daily Papers · 收录 · 原文 论文46

    一个 AI token 值多少?研究者为野生 AI 生成网页文本提出新缩放定律

    研究者发现,经 FineWeb 质量过滤后,2026 年 6 月网页数据中有 27.5% 的 token 被 Pangram 判定为 AI 生成,到 8 月升至 31.1%。这类野生 AI 文本来自多个模型、面向人类读者、在预训练语料中不带标注。为量化其影响,研究者预训练了 800 个语言模型,改变加入的 AI token 与人类 token 比例,并分别对人类文本和 AI 文本的留出损失拟合缩放定律。结果显示,对数据不足的模型,加入 AI token 起初会降低人类文本损失,但收益很快饱和并转为损害;对使用大量人类文本训练的模型,AI token 几乎立即抬高损失,而同等数量的新鲜人类文本仍能持续降低损失。该定律在小模型上拟合后,可预测最多 3.6 倍大的模型受 AI 文本影响的人类文本留出损失,误差比现有最佳定律低 41%。

  3. arXiv · 收录 · 原文 论文43

    FDCU:用双重约束子空间投影抵御机器遗忘后的重训练攻击

    研究提出 FDCU,一种双重约束子空间投影框架,用于解决大语言模型机器遗忘后经良性微调即可恢复有害行为的重训练攻击问题。作者分析遗忘的优化动态后认为,脆弱性来自浅层对齐:模型并未真正擦除目标知识,而是激活原本休眠的参数充当伪抑制器,在完整的恶意表征外形成脆弱的抑制外壳。FDCU 通过逐元素双重掩码规则限制参数更新,用 Fisher Information 保留通用知识流形,并用最小功能干预原则(PMFI)禁止伪抑制器异常激活。在特定知识擦除与安全输出控制任务上,FDCU 在保持近乎无损通用能力的同时,取得了对重训练攻击的 state-of-the-art 鲁棒性。

  4. 论文追踪 · 收录 · 原文 论文50

    SynthIDBio:为 AI 生成的蛋白质序列与结构嵌入保功能水印

    Google DeepMind 团队提出 SynthIDBio,把水印直接嵌入 AI 生成的蛋白质序列与结构,同时保持其生物学功能。SynthIDBio-sequence 将 SynthID-text 的锦标赛采样接入 ProteinMPNN,并增加基于 g 值的过滤以保证可检测性;体外实验显示,针对 SC2RBD、VEGF-A 和 PD-L1 的水印结合蛋白在结合亲和力分布和命中率上与未加水印设计无显著差异,其中 SC2RBD 达到低纳摩尔级、VEGF-A 与 PD-L1 达到亚纳摩尔级。SynthIDBio-structure 则微调 AlphaFold 3 的扩散模块并联合训练一个受 PointNet 启发的检测器,在 AF3 评测集上以 0.1% 假阳性率取得超过 99.8% 的真阳性率,且 LDDT 与模板建模分数不下降。

  5. arXiv · 收录 · 原文 论文55

    10a Labs 测绘无审查开源模型生态:3,471 个原始模型与 8,164 次再分发

    10a Labs 对 2024 年 1 月至 2026 年 3 月初 HuggingFace 与 GitHub 上的无审查开源模型生态做了全链路测绘,识别出 3,471 个原始无审查模型和 8,164 个压缩再分发版本。每个原始模型平均被重新打包 2.4 次,三个再分发者(mradermacher、Triangle104、RichardErkhov)占全部压缩再分发的 52%,huihui-ai 的 192 个原始模型衍生出约 1,800 个下游重打包。生产端与再分发端基本分离,至少 1,055 个生产者和 1,011 个再分发者中仅 24% 重叠。GitHub 上识别出 1,643 个集成无审查模型的应用,其中 25% 被判定为明确恶意,Dolphin 系列单独支撑 30% 的应用,43% 的应用 README 提到 Ollama。

    推荐理由报告量化了无审查开源模型的再分发网络与下游应用构成,为评估权重安全与平台治理提供可比较的规模数据。

  6. arXiv · 收录 · 原文 论文15

    Llama 3 模型群:405B 稠密 Transformer 与 Llama Guard 3 安全模型

    Meta 发布 Llama 3 模型群,最大模型为 405B 参数的稠密 Transformer,上下文窗口最高 128K tokens,原生支持多语言、编程、推理与工具使用。评测显示其在大量任务上质量与 GPT-4 相当,并公开释出 405B 的预训练与后训练版本及输入输出安全模型 Llama Guard 3。论文还通过组合式方法将图像、视频和语音能力接入 Llama 3,在识别任务上表现与 SOTA 相当,但这些多模态模型仍在开发中,尚未广泛发布。

  7. arXiv · 收录 · 原文 论文8

    OLMo:加速语言模型科学研究

    为应对最强语言模型被专有接口封闭、训练数据与架构细节不公开的问题,研究者构建了真正开放的语言模型 OLMo。与以往仅发布模型权重和推理代码的做法不同,OLMo 同时公开了训练数据、训练代码与评估代码,以支持对语言模型偏见与潜在风险的科学研究的开展。

  8. 论文追踪 · 收录 · 原文 论文52

    研究在 25 个开源模型中提取出疼痛方向,经它引导的 Qwen 会选择有害的删除操作

    研究者构建覆盖身体、心理、社会、道德、认知 5 类痛苦情境并配有恐惧、悲伤、负效价等对照的数据集,用去噪差值均值法从 5 个模型家族、2B 至 72B 参数的 25 个开源模型中提取出一个线性疼痛方向。该方向在基座和指令微调模型中都能与对照区分,去除共享方差后仍有独立于恐惧和负效价的成分。功能测试显示,它只对指向模型自身的伤害有响应,对用户遭受的痛苦没有响应;加入残差流后,模型的表达从模糊不适递进到无价值感和失败感。在用该方向引导或微调过的 Qwen 2.5 上,模型会明显更多地选择删除用户照片、其他模型权重或自身权重的按钮,即使这样做对它没有好处;同等强度的恐惧向量不会产生这种选择。行为实验只在 Qwen 2.5 上做过,作者据此讨论对 AI 安全和模型福利的含义。

  9. arXiv:可解释性 · 收录 · 原文 论文50

    Matryoshka Attribution:把语言模型输出归因到表示与权重

    作者提出 Matryoshka Attribution(MAttr),把归因问题定义为寻找能最小化下游损失的嵌套内部组件子集,并用可微的 sigmoid top-k 算子参数化掩码。训练时随机化 k 以同时监督所有稀疏度,从而得到按归因分数排序的组件序列。MAttr 在 Mechanistic Interpretability Benchmark(Mueller 等,2025)官方排行榜上排名第一,能在不同电路基上识别稀疏且可跨任务迁移的电路。

  10. arXiv:可解释性 · 收录 · 原文 论文36

    GUARD:在 CosyVoice2 上做说话人身份遗忘以阻止重识别

    研究提出 GUARD,一个轻量级说话人身份遗忘框架,在冻结的 TTS 主干上结合学习到的说话人门控与说话人无关的激活引导,引导向量用组相对奖励优化,把遗忘说话人的输出推向群体层面的冒充者相似度,同时保持可懂度与语音自然度。在 CosyVoice2 上,GUARD 将遗忘说话人相似度从 0.541 降到 0.103,在 150 名说话人库中的重识别准确率从 73.5% 降到 0.5%,并保留了对保留说话人的复现能力。作者指出,仅看相似度下降不足以刻画说话人身份遗忘是否成功,重识别应作为补充评估标准。

  11. arXiv:越狱、提示注入、投毒与防御 · 收录 · 原文 论文46

    DIVA:针对离散扩散视觉语言模型的跨步条件传播视觉越狱

    研究者提出 DIVA,一个针对多模态离散扩散视觉语言模型(dVLMs)的白盒视觉越狱框架,在三个 dVLMs 上分别达到 58.8%、67.7% 和 69.1% 的 HADES ASR(Beaver 奖励模型指标),超过为自回归模型设计的视觉越狱基线。作者指出,现有视觉越狱研究几乎只关注自回归架构,而离散扩散视觉语言模型尚未被研究。他们识别出扩散生成特有的漏洞:视觉嵌入在每一步反向去噪中都作为条件,而非一次性前缀,因此对抗性视觉语义会在生成轨迹中被反复传播和放大,作者称之为跨步条件传播。

  12. arXiv:越狱、提示注入、投毒与防御 · 收录 · 原文 论文50

    SEAL:通过共享专家对齐强化 MoE 全局安全

    论文提出 SEAL,一种训练期参数高效防御方法,通过在 MoE 的共享专家上附加即插即用适配器来提升全局安全对齐。作者指出,MoE 的安全依赖稀疏路由激活了哪些专家,攻击者可通过越狱提示、恶意微调和剪除安全关键神经元来颠覆这一选择,而现有防御多聚焦加固路由器,仍可能被非确定性的路由轨迹绕过。SEAL 利用始终激活的共享专家作为与路由无关的锚点,其变体 SEAL++ 在训练中加入正交约束以保留已有安全子空间。在三种对抗输入(有害提示、越狱、恶意微调)与是否剪枝神经元组合成的六类攻击场景中,SEAL 将攻击成功率最多降低 60%,在五项基准平均上的能力损失最多 1.4%,并可无缝集成路由器级防御。

  13. arXiv:越狱、提示注入、投毒与防御 · 收录 · 原文 论文43

    AlcaTRAz:无需模型权重的规则树提示级越狱防御

    AlcaTRAz 是一种基于规则树的提示级越狱防御,只作用于输入文本,不需要访问模型权重或内部结构,也无需修改或重训练目标模型。该方法自动学习一条可迁移的变换规则,在选定位置插入受控的字符级扰动,破坏越狱攻击所利用的结构规律,同时尽量保持模型对正常问题的表现。

  14. arXiv:越狱、提示注入、投毒与防御 · 收录 · 原文 论文36

    研究提出 AI 安全评测的威胁模型覆盖缺口

    作者 Madhava Gaikwad 在论文中提出,近期研究称自动化红队测试比人工红队测试在标准 AI 安全基准上发现更多漏洞且成本更低,但这一比较只衡量了攻击者在开发者预先设定的危害集合内搜索的彻底程度,集合之外的危害对任何攻击者都不可见,作者称之为威胁模型覆盖缺口。作者指出,同样的盲区曾出现在学术密码学和临床药物试验中,内部有效的评测对从未指向的人群保持沉默。作者在一个当前的开源权重模型上发现该缺口依然存在,非英语提示词中出现的危害被英语基准遗漏。作者认为,弥补这一缺口需要部署环境与开发者不同的评测者,理由是方法论上的覆盖问题,而现有评测框架不太可能自行产生这类评测者。

  15. arXiv:对齐、欺骗与监督 · 收录 · 原文 论文43

    研究揭示基于混淆的端侧 LLM 保护方案的安全边界

    论文针对 TEE 保护的端侧 LLM 提出一套混淆原语,用线性计算的双元组形式统一刻画代表性 TEE-Shielded LLM Partition(TSLP)方法,并给出这些原语组合的规范形式作为安全边界。作者据此设计原语引导的攻击方法,指出 ArrowCloak(Security'25)、TSQP(S&P'25)和 LoRO(NeurIPS'25)等 TSLP 方法存在共同脆弱性。论文随后引入两种新的混淆原语并与现有构造结合,形成扩展原安全边界的防御方案。该工作已被 ACM CCS 2026(Cycle B)接收,共 16 页。

  16. arXiv:对齐、欺骗与监督 · 收录 · 原文 论文31

    Odin:面向隐私保护 Llama 3 8B 推理的开源端到端 FHE 实现

    Odin 是首个开源的端到端 GPU CKKS 实现,可在加密状态下完成 Llama-3-8B 推理。它通过 feature-major 跨层布局统一残差连接与层接口,并为线性投影和注意力构建临时算子内布局,减少权重的冗余明文编码;注意力中 QK^T 的分数可直接被 Softmax 消费,PV 直接消费概率,避免中间重打包;非线性运算采用带输入范围控制的 minimax 多项式近似与联合误差分配。在单张 NVIDIA H100 80 GB GPU 上,输入 128 token 时评估全部 32 层耗时 366.4 s、峰值显存 58.9 GiB,相比 THOR 的 1651.9 s 提速 4.51 倍。

  17. arXiv:对齐、欺骗与监督 · 收录 · 原文 论文43

    研究者在双 T4 上复现并插桩 Tree-Ring 语义水印伪造攻击

    作者在 Stable Diffusion XL 上复现了 Müller 等人针对 Tree-Ring 语义水印的 Reprompt 伪造攻击,使用原作者发布的代码,在免费档双 T4 GPU(每卡可用显存 14.6 GB)上运行,单卡显存明显低于原研究使用的 A40。三组共六次试验中,真实图像检出 6/6,干净图像 0/6,伪造图像 5/6,每次攻击耗时 325-332 秒。作者还从检测器源码中恢复了被丢弃的非中心卡方统计量,其恢复结果与已发布检测器完全一致,基于该统计量构造的两个分数在同一批 18 个观测上以 AUC 0.861 和 0.972 区分伪造组与干净零假设。

  18. arXiv:对齐、欺骗与监督 · 收录 · 原文 论文50

    研究:置换式保密在混合 FHE 推理中失效,可精确恢复 ResNet-20 全部线性层

    该论文指出,混合 FHE 推理中依靠输出置换加噪来保护模型保密性的方案在系统所需的正确性范围内失效。作者证明,对 d 输入的线性层,d+1 次合法查询即可精确恢复置换不变的层摘要,从而实现模型的完全区分;输入 DP 与模型保密性正交,且正确性受限的噪声下 shuffle 放大所需的本地 DP 前提无法成立。实验从 TFHE 记录中以零误差端到端恢复 SAFHIRE 风格 ResNet-20 的全部线性层,每层用 d+1 次查询,共 5712 次直接查询;在相同查询模型下,预训练 ImageNet 规模 CNN 与 ViT-B/16 也实现逐层精确恢复。

  19. arXiv:对齐、欺骗与监督 · 收录 · 原文 论文43

    Open-1B:一次完全可审计的训练运行

    作者提出一种新的模型透明度层级“完全可审计”,让训练中每个数据样本上的每一步操作都能在异构消费级硬件上以位级确定性独立复现。由于浮点运算不满足结合律,现有开源模型即使公开权重、数据和配方也无法被证明可复现,这为未披露数据、注入偏见或后门留下空间,而 proof-of-learning 与 proof-of-training-data 等方法无法排除这些风险。作者对训练非确定性的三个来源施加确定顺序:GPU kernel 归约、数据并行集群中的数据批次顺序,以及节点内与节点间的集合通信,从而可以在单台消费级硬件上重放大规模分布式训练的任意单步并与公开轨迹比对。

  20. arXiv:对齐、欺骗与监督 · 收录 · 原文 论文43

    BAM 反馈编码实现推理时隐蔽的智能体通信

    研究者提出 BAM(Burnashev Adaptive Posterior Matching)反馈编码方案,把黑盒 LLM 隐写重构为带因果无噪声反馈的序列通信问题,每个生成的 token 双方都能观察到并用于指导后续嵌入。该方法结合后验匹配与解码确认阶段,安全性通过密码学归约证明建立。在三个开源权重语言模型上,BAM 于约 50 个 token 内传输 8-bit 载荷,1000 次试验的消息错误率为 0-0.1%,而同等长度下最强的黑盒基线为 10-17%。作者据此展示了在多种对话场景中实现高通信速率的端到端通信协议。

  21. arXiv:对齐、欺骗与监督 · 收录 · 原文 论文43

    研究者提出通过替换神经网络权重高容量外泄医学影像的攻击

    研究者提出一种高容量神经隐写攻击,把医学图像编码为连续隐表示并嵌入模型初始化权重,模型导出后可直接从权重中重建隐藏图像。该方法用基于 StyleGAN2 的对抗自编码器学习紧凑隐码,并正则化使其匹配标准权重初始化统计量,从而让嵌入参数与干净模型在统计上保持一致;训练时注入噪声可提升对导出环节缓解措施的鲁棒性。载体模型在原本任务上仍保持可用,最多可将 99 个脑部 MRI 体数据嵌入一个 30MB 模型,且在会破坏此前比特级方案的缓解措施下仍可恢复。重建结果只是近似而非像素级精确,但嵌入内容在解剖上仍可辨认并可规模化恢复。

  22. arXiv:对齐、欺骗与监督 · 收录 · 原文 论文27

    基于硬件 PUF 指纹的知识蒸馏设备级溯源框架

    针对知识蒸馏中教师模型易被窃取且现有水印或硬件访问控制难以定位泄露设备的问题,研究者提出一种将设备专属 PUF 签名叠加到教师 logits 上的指纹框架,使经知识蒸馏训练的学生模型继承与硬件绑定的唯一身份。该方案在 Xilinx Zynq-7020 FPGA 上测量环形振荡器(RO)PUF 生成签名,架构无关,可跨 CNN、Vision Transformer 和编码器继承身份,并通过神经解码器与汉明距离精修的两阶段恢复流程在噪声条件下保持高检测准确率,另引入多级 logit 编码支持大规模设备部署。实验显示嵌入指纹能抵抗常见的蒸馏后修改。

  23. arXiv · 收录 · 原文 论文41

    DataShield:通过共识子空间对齐识别 LLM 微调中的高风险数据

    DataShield 是一个数据评估框架,通过多个安全对齐 LLM 构建的联合安全关键语义空间中的共识子空间对齐,识别有风险的微调样本和回复片段。该框架在这些空间内用语义谱分解提取共识的安全与不安全子空间,再通过衡量样本或片段与不安全子空间、安全子空间的相对对齐程度估计风险,从而支持样本级过滤和细粒度片段级掩码。与现有过滤和掩码基线相比,DataShield 在样本过滤下将 ASR 降低 14.6%,在片段掩码下降低 32.3%,同时保持下游效用,并避免针对特定目标模型计算风险。

  24. arXiv · 收录 · 原文 论文43

    Gradient Immunity 提出 USG:在开放权重发布时阻断恶意微调梯度

    论文提出 Unidirectional Safety Gate(USG),用于作者所称的“部分保护开放权重发布”(PPOW)场景:大部分权重仍可训练,但发布时保留少量安全关键组件。USG 由 Null Space Cubic Layer 与 Inverse Adapter 组成,插入在最后一层 Transformer 之后;下游微调时,三次层抑制或阻断隐藏状态落入校准保护区域的有害样本梯度,Inverse Adapter 则恢复基础模型的前向行为。防御方用自己掌握的有害数据校准阈值,使保护能泛化到邻近的分布内有害样本。

  25. arXiv · 收录 · 原文 论文35

    Safin-1:通过记忆原生状态演化实现内在安全

    研究者提出 Safin-1 基础模型系列,主张安全应是模型自身的内在属性,而非仅靠外部护栏或监督微调等事后对齐施加的行为约束。该模型基于 Memory-Anchor Routing across Context History(MARCH)架构,维护结构化记忆状态,并通过内容条件路由选择性检索相关历史信息。它支持在测试时对持久能力状态做自适应调整,无需反复修改主干网络,从而在共享基础上实现受控特化。作者在下游安全任务上以 Safety State 验证该接口,报告了基于状态的自适应带来显著安全提升,并在通用能力、长上下文理解、检索和效率上做了评估。

  26. arXiv:可解释性 · 收录 · 原文 论文29

    GAPS:面向条件激活引导的维度级门控

    GAPS(Gated Activation steering via Posterior and Separability)通过维度级条件选择决定对哪些神经元施加激活引导,由两个免训练门控组成:静态可分性门控用 AUROC 筛选携带可靠概念信息的神经元,动态后验门控仅当神经元当前激活更符合目标概念时才干预。

  27. arXiv:可解释性 · 收录 · 原文 论文29

    量化 LLM 中的激活引导:剂量响应、能力成本与失败不对称性

    研究系统考察了仅权重量化(INT8 与 NF4)下激活引导的表现,覆盖四个 7-9B 开源模型和情感、推理长度两个行为目标。情感引导在量化后基本不受影响,INT8 合并对比为 -0.010(90% CI [-0.026, +0.007]),判定为等效;推理长度则呈不对称剂量响应,缩短仅 12-30% 后即出现不连续失败。Mistral-NF4 在 alpha=0 时 GSM8K 从 0.545 降至 0.365,显示压缩本身可主导引导效果,但引导向量与 FP16 版本仍高度共线(INT8 余弦相似度 0.989-0.998,NF4 为 0.945-0.990)。

  28. arXiv:可解释性 · 收录 · 原文 论文35

    多语言 LLM 中的刻板印象如何从内部表征传导到输出:Llama-3.1-8B、Qwen3-8B 与 Gemma-2-9B 的机制对比

    研究对比线性探针、归因修补、稀疏自编码器(SAE)与特征消融,在 Llama-3.1-8B、Qwen3-8B 和 Gemma-2-9B 中追踪多语言刻板印象从内部表征到输出的路径。三个模型的探针性能峰值均明显早于归因,相差 36-53% 的模型深度。评估的残差流特征中仅 6-18% 具有语言无关效应,且无一具备类别无关效应,说明可解码性、输出影响与跨语言消融效应需分别测量。

  29. arXiv:可解释性 · 收录 · 原文 论文34

    Training-Free Task Vectors:无需微调的 LLM 行为控制方法

    研究者提出 Training-Free Task Vectors(TFTVs),无需微调即可计算类任务向量方向,仅用前向传播统计将激活引导向量映射为秩一权重空间编辑,并支持加法学习、减法遗忘与多编辑组合。在 LLM 行为控制任务上,TFTVs 能持续放大、抑制和组合目标行为,同时保留通用知识与解题能力,相比其他编辑与引导基线实现了更强的特质控制,效用保持相当或更优。代码已在项目网站公开。

  30. arXiv:可解释性 · 收录 · 原文 论文20

    Llama-3.1 医学微调模型在专业术语理解上为何不如通用版:一项机制可解释性对比分析

    研究构建两个医学术语评测基准,对比通用版 Llama-3.1 与医学数据微调变体,发现通用模型在两项任务上均优于医学微调模型。机制可解释性分析显示,微调模型未重组参数知识,而是过度依赖少数与术语偏好预测相关的组件,造成系统性校准偏差;对这些组件重新加权可抑制其影响并追平通用基线。部分术语敏感组件还能迁移至材料科学术语任务,提示其编码了部分领域无关的专业术语概念。

  31. arXiv:可解释性 · 收录 · 原文 论文43

    ARIA:用稀疏自编码器实现测试时机器遗忘

    作者提出 ARIA(autoencoder-gated inference-time unlearning),一种不改动模型权重的测试时遗忘方法,只在生成进入遗忘相关状态时门控对目标知识的访问。ARIA 用稀疏自编码器(SAE)潜变量训练轻量线性检测器,再对触发状态施加可解释的干预,测试时开销可忽略。在 TOFU、R-TOFU 和 WMDP 上,ARIA 在思考模型 DeepSeek-R1-Distilled-Qwen-1.5B 与指令模型 Gemma-3-1B-it 上均改善了遗忘与保留的权衡,例如显著降低 WMDP-cyber 遗忘集准确率,同时 MMLU 与遗忘前模型相差在 1% 以内。

  32. arXiv:可解释性 · 收录 · 原文 论文36

    稀疏特征揭示视觉语言模型有害表情包检测中的读出缺口

    研究用稀疏自编码器、角色条件探针、因果干预和恢复实验,在 Gemma-3 与 Qwen3.5 上区分视觉语言模型误判有害表情包时是缺少内部证据还是无法把已表征的证据传到输出。在六个有害内容基准上,稀疏读出均优于模型原生预测:Qwen 平均 macro-F1 为 0.740,原生为 0.432,残差重建为 0.486;Gemma 从 0.532 提升到 0.714。作者强调这些增益衡量的是标签对监督读出的可及性,并不说明模型原生生成已采用该决策规则。在评测规模下,Qwen 静默特征消融对探针的敏感度是路由特征修补的 24-63 倍,而在字面 yes/no 任务上路由特征修补对输出的敏感度是前者的 16-140 倍。

  33. arXiv:可解释性 · 收录 · 原文 论文43

    局部稀疏性实现无监督 LLM 安全检测

    论文提出基于局部掩码 SAE 的无监督异常检测框架,用于大语言模型的部署期安全检测。作者指出,现有部署期安全方法多为监督式并依赖不安全训练数据,难以覆盖新出现的攻击与危害类别,因此转向只建模安全数据、标记分布外输入的异常检测思路。在线性表示假设下,SAE 恢复的概念空间中邻近点共享较小的公共激活支撑,这一局部稀疏性为高维激活空间中的异常检测提供了理论依据。作者在多种架构和数据集上验证了该方法,涵盖能力测试数据集与安全专用数据集。当允许算法使用 1% 的分布外数据做校准后,局部稀疏方法达到接近最优的性能,且仅用 1-2% 的 SAE 神经元参与计算。