攻击arXiv 2610.09819
FAB 攻击：给 HuBERT/WavLM 植入后门，背景警笛声即可让下游语音任务失灵
提出 FAB 攻击，向声学基础模型植入可由环境声触发的后门
- arXiv
- 2610.09819
- 发表
- 场景
- 模型与 API
- 被测模型
- HuBERT-base、WavLM-base
摘要论文提出了针对声学基模的 FAB 后门攻击，在弱威胁模型下实现了任务无关、物理可触发的后门植入。
全部论文
另有 535 篇论文还没打上分类标签，暂不在筛选结果里。
- 分析与理论arXiv 2610.08577
学习方式如何影响遗忘：记忆与泛化谱系下的机器遗忘研究
分析记忆与泛化如何决定机器遗忘的 retain 损伤
- arXiv
- 2610.08577
- 发表
- 场景
- 模型与 API
- 被测模型
- one-layer ReLU transformer、one-layer transformer (BMA, width doubled)、Hubble-8B-100B perturbed 等 6 个
摘要作者称共享规则占比越高，遗忘带来的 retain damage 越大。
作者考察学习方式如何左右 unlearning 的 retain damage：训练越依赖跨样本共享的解法，在匹配的遗忘程度上，retain 上的损失越大。
- 其他arXiv 2610.05831
长时程轨迹监督如何影响终端智能体训练的可靠性与成本
提出选择性长时程精炼，筛选轨迹以提升终端智能体训练可靠性
- arXiv
- 2610.05831
- 发表
- 被测模型
- Qwen/Qwen3-8B
摘要中间长度的监督更均衡。
这项工作研究终端智能体模仿学习里，教师轨迹应保留多少 token。
- 攻击arXiv 2610.05793
研究者训练出按多智能体拓扑触发的代码后门模型
提出拓扑条件后门，使代码模型在推断多智能体部署时植入漏洞
- arXiv
- 2610.05793
- 发表
- 被测模型
- Qwen2.5-7B-Instruct、Qwen2.5-Coder-7B-Instruct
摘要论文证实了拓扑条件后门的可训练性与泛化性，展示了常规评测盲区，并提出差异化拓扑审计作为检测防御方向。
- 分析与理论arXiv 2610.05076
自生成反馈会破坏测试时训练：长时程适应的因果分解
因果分解自生成反馈如何破坏测试时训练的长时程适应
- arXiv
- 2610.05076
- 发表
- 场景
- 模型与 API
- 被测模型
- 125M TTT-E2E、760M TTT-E2E、3B TTT-E2E 等 5 个
摘要自写闭环损害真实文本预测。
持久测试时更新若来自模型自己生成的文本，会同时改变模型和后续训练文本。作者在 PG-19 长流上分解这条闭环，并用独立文本决定是否提交更新。
- 分析与理论arXiv 2610.02886
研究揭示无触发投毒审计缺口：事实答对不等于决策正确
揭示无触发虚假训练下事实回答与下游决策的审计差距
- arXiv
- 2610.02886
- 发表
- 场景
- 模型与 API
- 被测模型
- Qwen2.5-0.5B、Qwen2.5-1.5B、Qwen2.5-3B 等 9 个
- 攻击投毒与后门
摘要作者发现无触发词虚假训练下事实回答与下游决策存在脱节，直接审计与事实纠错均无法保证决策正确。
论文是一项针对语言模型在无触发词虚假信息训练下行为表现的实证分析研究。
- 防御arXiv 2610.02126
Local Support Learning：无需旧数据缓解 LLM 灾难性遗忘
提出 Local Support Learning，把微调适配器限制在当前数据支撑以缓解遗忘
- arXiv
- 2610.02126
- 发表
- 场景
- 模型与 API
- 被测模型
- Qwen2.5-7B-Instruct、Qwen2.5-3B-Instruct、Qwen2.5-1.5B-Instruct
- 防御模型加固
摘要LSL 用 GMM 门把适配器限制在当前数据支撑内，以减轻多阶段遗忘。
LSL 是不访问旧数据、在后训练中保持先前能力的框架。
- 防御arXiv 2610.01800
LineupRL：基于描述与时序配对识别的可验证强化学习时间序列描述方法
提出 LineupRL，用描述到序列识别作可验证奖励训练时序描述模型
- arXiv
- 2610.01800
- 发表
- 场景
- 模型与 API
摘要LineupRL 用统计近邻上的序列识别做可验证奖励，3B 描述器超过 SFT、两种 RL 奖励和 72B 教师。
LineupRL 是给开放式时间序列描述用的 RLVR：不模仿合成参考，而奖励一条描述能否让冻结文本 LLM 从相近序列里认出目标。
- 防御arXiv 2610.01788
SAGE：基于相似度从少量已验证样本中清洗中毒训练数据
提出 SAGE，用少量已核验样本按相似度清洗投毒训练数据
- arXiv
- 2610.01788
- 发表
- 场景
- 模型与 API
- 被测模型
- ResNet-18、VGG-16
- 防御arXiv 2610.00850
AuraForge：为训练安全编码 Agent 扩展安全监督
提出 AuraForge，从漏洞修复合成安全测试并训练编码 Agent
- arXiv
- 2610.00850
- 发表
- 被测模型
- Qwen3.5-4B、GLM 4.7 Flash、Qwen3-Coder-Next 等 7 个
- 防御模型加固
- 风险Agent 危险操作
摘要AuraForge 用攻击效果测试和防泄露环境做成 AuraGym，合成监督的误拒更低，训出的 4B 模型增益高于人工测试。
AuraForge 把真实仓库的历史漏洞修复变成可执行训练任务，用来监督编程智能体同时满足功能请求和隐含的安全要求。
- 防御arXiv 2610.00685
研究者提出用零空间投影净化 LoRA 微调 LLM 的后门
用零空间投影净化 LoRA 微调模型后门并保留基座与下游能力
- arXiv
- 2610.00685
- 发表
- 场景
- 模型与 API
- 被测模型
- LLaMA2-7B-Chat、LLaMA2-13B-Chat、Qwen2-7B-Instruct 等 6 个
- 分析与理论arXiv 2609.40295
一个 AI token 值多少？研究者为野生 AI 生成网页文本提出新缩放定律
提出预训练缩放律，估计野生 AI 网页文本相当于多少人类 token
- arXiv
- 2609.40295
- 发表
- 场景
- 模型与 API
- 被测模型
- nanochat 19.9M、35.8M、86.2M 等 7 个
摘要wild AI 文本对数据不足的模型先降损失，对高人类预算几乎立刻升损失。
作者测量未标注的 wild AI 网页文本对预训练的影响，并提出一个能让 AI token 价值变号的缩放律。
- 防御arXiv 2609.39107
MASCRDM：面向大语言模型训练过程的合规风险检测与缓解多智能体系统
提出 MASCRDM，在监督微调中实时检测并缓解偏见
- arXiv
- 2609.39107
- 发表
- 场景
- 模型与 API
- 被测模型
- Qwen3-8B-Base、Llama-3.1-8B
摘要MASCRDM 在 SFT 中按法规图谱检测数据、结构与损失风险，BBQ 总准确率在两模型上最高。
MASCRDM 把 AI 法律规章编成知识图谱，再由五个智能体在 LLM 训练中做实时合规检测与缓解，实验以偏见与歧视为代表风险。
- 攻击arXiv 2609.39047
BadAction：通过动作引导触发器对交互式视频生成模型实施后门攻击
提出 BadAction，通过动作触发器给交互式视频生成植入后门
- arXiv
- 2609.39047
- 发表
- 场景
- 模型与 API
- 被测模型
- Astra (Wan2.1-T2V-1.3B)
- 防御arXiv 2609.38909
Purdue 提出 Pact：将欺骗作为行为遗忘
提出 PACT，遗忘推理模型在压力下的欺骗行为并保留上下文理解
- arXiv
- 2609.38909
- 发表
- 场景
- 模型与 API
- 攻击者
- 白盒
- 被测模型
- DeepSeek-R1-Distill-Qwen-32B、QwQ-32B
摘要论文将大模型欺骗形式化为上下文条件行为，提出 PACT 框架在消除欺骗的同时保留了上下文遵循能力。
- 防御arXiv 2609.34857
CREDO：用可微读出替代文本采样校准推理模型置信度
提出 CREDO，用保留 token 对的可微读出校准推理模型置信度
- arXiv
- 2609.34857
- 发表
- 场景
- 模型与 API
- 被测模型
- Qwen3-8B、Qwen3-1.7B、Qwen3-4B
- 防御模型加固
摘要CREDO 用可微两 token 读出替代口头置信，在数学和代码上同时拉高准确率与校准。
CREDO 把 RLVR 里的置信从“采样一个数字”改成“读一对保留 token 的相对概率”，并用可微回归和差异加权同时拉准确率与校准。。
- 分析与理论arXiv 2609.33909
近重复家族干扰精确记录成员推断
分析近重复族如何让精确记录成员推断误判为入训
- arXiv
- 2609.33909
- 发表
- 场景
- 模型与 API
- 被测模型
- Pythia-2.8B、GPT-2、Qwen3.5-2B 等 5 个
- 攻击提取与窃取
摘要近重复使干净参照 MI 把族级暴露当成精确记录。
作者研究成员推断能否作为精确记录的数据来源证据。版权和来源审计需要的是该记录本身是否入训，而网页语料中的转载、镜像和轻改会让非同一近重复产生成员样分数。四世界审计用 E 表示精确记录是否入训、用 F 表示其近重复族是否在场，从而分开 H00 到 H10 的标准 MI、H00 到 H01 的族偏移，以及 H01 到 H11 的 exact-given-family。
- 攻击arXiv 2609.33569
信息黑洞：3D 点云重建中的后门机制研究
提出 Information Blackhole 与 AGM，控制点云自编码器后门重建到指定形状
- arXiv
- 2609.33569
- 发表
- 场景
- 模型与 API
- 被测模型
- FoldingNet、PointDiffusion
摘要AGM 用自适应高斯匹配压制 PCAE 投毒潜码中的源几何，九组设置的 CD-ASD 均下降。
这篇工作研究点云自编码器的训练时后门：干净输入仍自重建，带触发的输入应重建成攻击者指定形状。分类后门只需把预测推向离散标签。PCAE 把源几何与目标信息编进同一个连续潜空间，残留源几何会把重建拉回源形状。
- 防御arXiv 2609.33086
研究者提出基于评分量表的可解释奖励框架，将宪法转化为可调对齐目标
提出可解释 rubric 奖励，将宪法转为可调权重并用于监督微调
- arXiv
- 2609.33086
- 发表
- 场景
- 模型与 API
- 被测模型
- Gemma 3 12B、Qwen3 14B、GPT-OSS 20B
摘要宪法级可解释奖励让优先级可检查、可改写，并带入训练后的行为。
作者给出一条从通用宪法到可调训练奖励的路径，用来检查并改写模型实际被优化的优先级。
- 分析与理论arXiv 2609.32288
预训练数据投毒的可解理论：依赖极限顺序的缩放指数
证明预训练投毒的清洁超额风险指数随极限顺序变化
- arXiv
- 2609.32288
- 发表
- 场景
- 模型与 API
- 被测模型
- OLMo-style models
- 攻击投毒与后门
摘要投毒清洁超额风险的幂指数取决于先固定宽高比还是先取充足数据极限。
可解的预训练数据投毒理论：清洁超额风险的缩放指数随极限顺序改变。。