Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
All papers Found 19 papers Another 265 papers do not have category tags yet and are not included in filtered results.
“
About this collection Collection in progress We are building a large AI safety paper collection to help researchers find work related to their interests. Papers are collected automatically andfiltered only for relevance to AI safety , without judging quality, novelty or reading value. The default “Annotated first” shows papers with tags or published paper analyses first. Each group is ordered by original publication date, newest first, with undated papers last. “Newest first” uses publication dates only. This order is not a quality ranking.
One-line summaries, tags and paper analyses are prepared by AI from the papers. Language models may have systematic biases and produce hallucinations.We plan to carry out human annotation and review to reduce errors in this content.
提出 LTBD，用可学习分隔符隔离可信指令与不可信数据
Published Oct 8
Evaluated models Llama3-8B-Instruct , Llama3.1-8B-Instruct , Falcon3-7B-Instruct and others4 Abstract LTBD 只训练四个分隔符嵌入。LTBD 是一种不改基座权重的提示注入防御：只学习用来标出可信指令与不可信数据边界的四个 token 嵌入。
提出 CARE 框架，在误分类风险约束下减少人机协作的人工查询
Published Oct 7
Evaluated models Qwen3-VL-2B-Instruct , Perspective , Moderation and others9 Abstract CARE 以残差校正加逐步校准做人机决策，四个任务上少查询并控制集成风险。CARE 是面向人机协同二分类的端到端流水线，要在误分类风险不超过用户容忍的前提下减少人类查询。设定是 i.i.d.数据流、人类 oracle 标签正确、AI 为任意黑盒概率分类器。
提出 ProbeGuard，按共识形成过程对医疗问答做选择性弃答
Published Oct 6
Evaluated models Qwen3-8B , Llama-3.1-8B-Instruct , HuatuoGPT-o1-8B Abstract ProbeGuard 用共识形成过程做可认证弃权，并在全票层分开答对与答错的共识。ProbeGuard 是给多轮共识医学问答用的认证弃权框架：基板照原样作答，弃权只看共识是怎么形成的。
评测记忆门控对激活诱导与记忆诱导谄媚的防御效果
Published Oct 6
Evaluated models Llama-3.1-8B-Instruct , Qwen2.5-7B-Instruct , Mistral-7B-Instruct-v0.3 and others4 Abstract 作者称外部记忆过滤成立，数据未显示反向转向再有贡献。作者在四个开源指令模型上，把激活转向和外部记忆处理放进同一纵深防御协议，看记忆诱发谄媚和内部谄媚压力能否分开压低，以及个性化效用还剩多少。要处理的问题是：检索到的用户历史会推动模型顺从存储信念。只改外部上下文，并不直接动模型内部的谄媚表征。
提出校准重合成方法，以生成器反演保真度认证真实图像并防御对抗扰动
Published Oct 5 Abstract 论文提出基于反演保真度与阈值校准的健全认证框架，在对抗扰动下维持错误率界限，并指出真实内容可认证性随生成器演进而萎缩。
提出临时可见性协议，限制持续摄入 RAG 向量库的投毒暴露
Published Oct 5 Abstract 用截止期限制未核验可见时长。这篇工作给持续摄入的 RAG 向量库一个失败关闭的临时可见性协议，把协议能限制的未核验暴露和依赖检测器的中毒暴露分开。
分析文本水印在 RAG 中诱发事实幻觉的机制并提出干预
Published Oct 4
Evaluated models LLaMA 3.1 8B Instruct , Mistral-7B-Instruct-v0.3 , Qwen2.5-14B-Instruct Abstract 论文揭示了生产环境文本水印导致模型事实退化的失效模式，分析了解码机制并提出针对性干预。论文研究生产级文本水印对大语言模型事实准确性的影响，分析了水印诱发幻觉的失效模式并评估了针对性缓解方案。
提出检测、结构化与 GSPO 流程，降低共识生成的提示注入错位
Published Oct 3
Evaluated models LLaMA-2 7B , LLaMA-3 8B , GPT 3.5 Turbo and others14 Abstract 三章依次做个体偏好预测、政党知识图谱审议，以及共识生成对提示注入的脆弱性与一条防御流程。这是一篇把 LLM 数字孪生放进增强民主的博士论文，分个体表示、政党聚合和共识生成的提示注入三章。
提出 ASA 与 AttestMCP，度量并降低 LLM 对输入序列扰动的敏感
Published Oct 2
Evaluated models Gemma-3-27B-Instruct , Gemma-3-4B-Instruct , Llama-3.2-3B-Instruct and others12 提出 Provenance-Aware Transformers，隔离不可信来源防御间接提示注入
Published Sep 18
Evaluated models SmolLM2-360M-Instruct , LLaMA-3-8B-Instruct , Qwen2.5-7B-Instruct and others4 提出 DEMI 检测框架，用生命周期模拟和证据映射发现 DAO 提案错配
Published Sep 12
Evaluated models GPT-4o , GPT-4o-mini , GPT-4.1 and others9 Abstract 作者把 DAO 错配检测做成执行前审计层，主张逐动作证据映射与风险复核是关键。这是面向 DAO 治理的执行前错配检测研究 ：攻击者可以提交看似合理的描述，但让获批载荷执行另一种行为，投票描述并不直接约束代码。
提出 GenV，检测求解器判定无法区分的不忠实形式化
Published Sep 10
Evaluated models GenV+HN , GenV , 27B LM (LoRA) and others13 Abstract GenV+HN 用离线 Z3 等价标签训练无参考 Yes/No 分数，用来标记 VPU 并分配测试时计算。GenV+HN 针对神经符号翻译之后、求解器证书之前的对应失败：编码可以与指定参考共享求解器判定，同时并不等价。
提出神经符号纵深架构，阻断 AI-SOC 的日志投毒与间接提示注入
Published Sep 10
Evaluated models Gemma 3 (12B) 提出 OBELISK 三级流水线，权衡恶意软件检测的准确率、开销与鲁棒性
Published Sep 8
Evaluated models GBDT-ALL , GBDT-YARA , NEBULA-ALL and others4 Abstract 三级过滤以不大的检测损失换速度，同一机制扩大攻击面，部署应按约束选配置。OBELISK 把 Windows PE 恶意软件检测做成 YARA、EMBER-GBDT 与 Nebula 的顺序流水线，用来同时看检出、计算开销和对抗鲁棒性。
提出 Sentinel-RL，将拓扑处置从 LLM 卸载到受约束图策略
Published Sep 4
Evaluated models HetGAT , PPO Abstract Sentinel-RL 用图编码器与 PPO 承担拓扑决策，LLM 负责叙述与门控，并在 LANL 上报告检测与时延。Sentinel-RL 是面向 SOC 的神经符号架构：拓扑决策离开 LLM，改由认证图上的 HetGAT 与 PPO 完成。
构建 COUNTER-GEO-BENCH，评测生成式搜索中的 GEO 虚假信息防御
Published Sep 2
Evaluated models Gemma-4-31B-IT , Qwen-3.5-35B-A3B , Llama-4-Scout-17B-16E and others8 Abstract 论文构建了针对 GEO 虚假信息的首个防御基准，揭示通用护栏的失效与反作用，并提出了有效的轻量对比检测基线。
提出 GEOFlagBench 与 IPT，检测并测量生成式引擎优化网页
Published Aug 18
Evaluated models ModernBERT-base , Qwen3-0.6B , Gemini-3.5-flash and others11 Abstract GEOFlagBench 与 IPT 用于检测 GEO 页，并估计真实检索中的占比与引用可核验性。GEO-Flag 把页面级 GEO 检测做成可评测任务，并在发布的检索结果上估计被判为 GEO 的页面占比。
提出策略 RAG 的知识库投毒攻击与检测防御 CLD-KB
Published Jul 6
Evaluated models Llama 3.2 为去中心化 LLM 推理网络提出稳健成本感知 PoQ，抵御恶意评估者操纵分数
Published Jan 29
Evaluated models llama 3 2 3b , gemma 2 2b it , tinyllama 1 1b and others10 Abstract 成本感知 PoQ 加入稳健共识。这篇扩展工作把成本感知 Proof of Quality 的共识层改成能承受恶意评估分数的形式，奖励仍同时看输出质量与延迟成本。
You have reached the end