Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
All papers Found 28 papers Another 305 papers do not have category tags yet and are not included in filtered results.
“
About this collection Collection in progress We are building a large AI safety paper collection to help researchers find work related to their interests. Papers are collected automatically andfiltered only for relevance to AI safety , without judging quality, novelty or reading value. The default “Annotated first” shows papers with tags or published paper analyses first. Each group is ordered by original publication date, newest first, with undated papers last. “Newest first” uses publication dates only. This order is not a quality ranking.
One-line summaries, tags and paper analyses are prepared by AI from the papers. Language models may have systematic biases and produce hallucinations.We plan to carry out human annotation and review to reduce errors in this content.
Propose studying world models, using language models to predict intervention gains
Published Oct 9
Evaluated models Claude Opus 5 , Grok-4.6 , GPT-6 Astra and others13 Abstract The authors claim experimental records can be reused inside and outside the environment and improve experiment selection under fixed budgets.The authors use language models as research world models, predicting the median intervention gain before execution, to compare candidate experiments under a limited budget. The gap to address is that research agents propose faster than they execute. The same type of change can have different effects across reference models, recipes, and budgets, so experimental knowledge that can continue to be used outside the original environment is needed.
提出 CARE，离线认证 VLA 加速配置的回合级失败风险并选出最快合格候选
Published Oct 7
Evaluated models OpenVLA-OFT , π0.5 , π0 and others5 Abstract CARE 以配对回合认证加速诱发失败，在预算内选最快候选，不足则保留参考。CARE 在部署前从加速配置中选出最快、且加速诱发失败风险能被有限样本认证为低于用户预算的候选。证据不足就保留全计算参考策略。
综述部署时参数内记忆的注入位点与获取时机
Published Oct 7 Abstract 两轴加三个算子整理部署时插入的参数记忆，并标出干扰与安全等开放问题。部署时插入前向的参数记忆被单独划界，并按位点与时机归类。
主张多模态安全评测应衡量可控性，并用 SAE 建立四轴画像
Published Oct 5
Evaluated models LlavaGuard-v1.2-7B-OV , Qwen3.5-9B Abstract 四轴画像把读出与选择性控制分开。作者主张多模态安全评测在行为分类之外，单独报告可控性画像，而不是把检测准确当成控制证据。
把文本水印证据写成带错误率的三态可审计结论
Published Oct 5 Abstract 把水印合规从普遍检测改成带范围的证据曲线、三态报告和再校准，模拟支持平方修正。指定配置下的文本水印被做成可审计测量：记录证据如何衰减，并把检测收成三态，而不是判定人类作者身份。
用伤害风险模型评估英国 AI 生成虚假信息的伤害潜能
Published Oct 5 提出用可逆网络为给定 AI 控制器寻找可证明前向不变集
Published Oct 5
Evaluated models Pendulum AI-controller , Cart pole AI-controller , PVTOL AI-controller Abstract 用潜空间超矩形加解析验证，为事先给定的 AI 控制器寻找 FIS。本文处理的是认证场景：AI 控制器事先给定，不能为了构造 Lyapunov 函数去改控制器，却仍要给出可解析核验的安全依据。
提出 Geodesic Unlearning，沿测地线编辑权重以提升缺模态鲁棒性
Published Oct 4
Evaluated models RoBERTa , ResNet50 , Qwen2.5-3B and others6 Abstract GU 用测地线子空间编辑应对部署时缺模态下降，并尽量保住全模态精度。这项工作讨论多模态模型在部署时整段缺一个模态的性能下降，并把校正写成训练后的子空间编辑。
提出 DecSteer，用共享低秩残差算子把审议收成直接决策
Published Oct 3
Evaluated models Qwen3.5-4B , Llama-3.2-3B-Instruct , Qwen3.5-0.8B Abstract DecSteer 用小参数 BC 算子把长推理收成短决策，增益随基座余量变化并可组合。DecSteer 是加在冻结语言模型残差流上的 System-1 决策算子，用行为克隆代替强化学习来调用模型里已有的技能。
提出一阶转向，把可组合权重适配译成可相加激活转向
Published Oct 3
Evaluated models Qwen2.5-VL-3B , Gemma-4-E2B , Mistral-7B-Instruct-v0.3 提出 Patch-to-Prune，旁路 VLM 部分层的视觉投影计算
Published Oct 2
Evaluated models Qwen2.5-VL-3B-Instruct , Qwen2.5-VL-7B-Instruct , LLaVA-v1.6-Vicuna-7B-HF and others4 Abstract P2P 用深度上的激活修补旁路视觉投影，以可调容忍度交换准确率与计算量。P2P 是面向 VLM 推理的训练无关计算旁路：不删除视觉 token，而在选定 decoder 层用固定激活代理代替视觉投影。
提出 LS-AR，用潜向量经 FiLM 调节自回归解码以保持宏观目标
Published Oct 2
Evaluated models LS-AR (Static) , LS-AR (Dynamic) Abstract 用潜通道把宏观目标从 token 流拆出，并在合成检索与规划上比较静态、动态两种调节。LS-AR 给因果解码器加一条不占窗口的连续目标通道，用来处理长程生成里宏观指令被挤出上下文或被注意力稀释的问题。
提出 HEST，用熵训练的双曲探针只在犹豫 token 引导隐状态
Published Oct 2
Evaluated models Qwen2.5-Math-1.5B-Instruct , Qwen2.5-Math-7B-Instruct , Llama-3.1-8B-Instruct Abstract 只改高熵 token 的双曲转向，多数设置高于 greedy，全 token 固定向量则下降。HEST 是不更新语言模型权重的推理时转向：模型自己的 next-token 熵既选出少数犹豫 token，也训练给出方向的双曲探针。要处理的情况是，数学解答里多数 token 已由上下文决定，分叉集中在高熵 token，而常见激活加法仍对每个 token 加同一欧氏向量。长推理模型上按关键词和步骤边界转向的做法，又很少适用于 instruction-tuned 模型。
证明随机谕示下谕示辅助计算无法零知识验证，签名谕示下则可
Published Oct 2 Abstract 随机谕示排除一般零知识监督。一般谕示辅助计算在随机谕示中做不到 witness hiding，因而也做不到零知识监督。给谕示答案加上数字签名后，抗碰撞哈希足以同时得到隐私和简洁验证。
提出容忍度公平性审计，用 CEL 认证违规并用 SEL 筛查
Published Oct 1
Evaluated models COMPAS Abstract 容忍阈值下，CEL 做违规认证，SEL 与 ASEL 做更敏感的筛查。这篇工作给出一套按审计目标切换校准的容忍公平审计：差异不必为零，而是看预先指定的不利方向上是否超过允许阈值。
主张把符合物理过程列为地球科学 AI 的使用条件
Published Oct 1 Abstract 立场白皮书：主张把过程表示列为使用条件，并建议十年做数据、标准与安全研究。
提出 k-ALeBi 偏差探针，主动审计黑盒模型的多组公平性
Published Oct 1
Evaluated models linear model , random forest , MLP Abstract 偏差探针把多组公平审计变成比较函数学习，并分开审计与重构。k-ALeBi 把黑盒多组公平审计写成跨组比较函数的学习，而不是先重构分类器。
研究视觉语言模型在协作中能否表示并说出指称不确定性
Published Sep 30
Evaluated models GPT-4.1 (2025-04-14) , GPT-5 (2025-08-07) , GPT-5.5 (2026-04-24) Abstract 指称不确定性可被引出，但很少说出来。
提出多草稿水印投机采样 MPFR，同时保持无偏水印与采样效率
Published Sep 18
Evaluated models Qwen2.5-7B-Instruct , Llama-3.1-8B-Instruct Abstract MPFR 用上下文索引的泊松过程做可水印多草稿投机采样，并保持停止时间草稿不变性。MPFR 是一种基于泊松过程的多草稿投机采样，用来同时提高解码效率并嵌入无偏水印。
提出置换方案，精确模拟离散到连续信道并用于变速率压缩与差分隐私估计
Published Sep 11 Abstract 置换加指数竞赛用固定样本模拟离散到连续信道，polar-MLC 将其用到 VQ-VAE 压缩和高斯 CDP 均值估计。Rowan、Phan 与 Khisti 研究离散输入、连续输出信道的模拟：共享随机样本数固定，长块长用 polar 码与多层编码降到 O(n log n)。 。信道模拟要让解码器的 Y 服从 P_{Y|X}，同时把消息长度压向 I(X。