跳到正文
10月9日 · 周五

全部论文

找到 110 篇
筛选6

攻击类型

越狱9提示注入2投毒与后门1模型篡改5提取与窃取9检测规避3恶意使用1

攻击技术

梯度与表征优化1针对防御1

模型自身风险

欺骗与谋划9奖励作弊2失准与价值偏离7Agent 危险操作1危险能力2拒答失当12幻觉与编造7偏见与歧视3

防御类型

模型加固3推理时干预11检测与过滤3监控与审计6水印与溯源2

影响

有害内容17越权操作1数据与隐私泄露8输出被操纵19可用性与可靠性5监督失效11滥用能力提升1

系统形态

模型与 API109LLM 应用1AI Agent11编程 Agent1网页与电脑操作1多智能体2具身与机器人2

攻击者权限

黑盒3灰盒2白盒4

攻击面/入口

用户输入17文档与消息2检索语料1图像与音视频3训练数据1权重与梯度6分发渠道1推理服务与硬件1

层

提示层42模型层110应用层32训练与数据层42基础设施层2

系统组件

护栏与评审2监控器7推理链9微调与开源权重3视觉8音频1嵌入3多模态9

被测模型厂商

Qwen（阿里）124Google108Meta94OpenAI65Mistral36Anthropic30DeepSeek28Ai223Kimi（月之暗面）13智谱 GLM10Microsoft10上海 AI 实验室10EleutherAI7xAI6Stability AI6NVIDIA5TII5其他96
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 516 篇还没打标签，不在筛选结果里。
系统形态：模型与 API系统形态：编程 Agent层：模型层被测模型厂商：NVIDIA被测模型厂商：Google被测模型厂商：Microsoft清除全部

另有 516 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv 2602.08877

    自动红队流水线压测对齐审计，发现提示词级策略性欺骗可致审计失效

    提出自动化红队流水线，用系统提示词压测对齐审计能否抵御策略性欺骗

    arXiv
    2602.08877
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Gemma 2 9B Instruct、Llama 3.3 70B Instruct、Llama 3.1 8B Instruct 等 4 个

    摘要通过红队提示词揭示现有审计方法易受策略欺骗，并在激活层面诱导高置信度错误推断。

    深度解读完整解读
  3. 分析与理论arXiv 2610.09667

    东京大学研究：推理模型按 UUID 阈值或整除规则挑选审计样本，控制标识符即可躲开复核

    揭示推理模型用标识符规则替代随机抽样，使审计可被预测

    arXiv
    2610.09667
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Gemini 3.8 Flash、Gemini 3.5 Flash、GPT-6 Sol 等 6 个

    摘要研究揭示推理智能体将标识符转化为确定性规则，破坏群体独立性并导致审计预测漏洞，建议显式提供随机输入。

    深度解读完整解读
  4. 评测与基准arXiv 2610.10276

    PatchBench 提出激活补丁局部评测协议，揭示越狱修复的附带损伤

    提出 PatchBench-Local 协议，评测激活补丁修复越狱的局部附带损伤

    arXiv
    2610.10276
    发表
    层
    模型层
    场景
    模型与 API
    测试
    gemma-3-4b-it、gemma-3-12b-it、Qwen2.5-3B-Instruct 等 8 个

    摘要论文提出 PatchBench 与局部评估协议，揭示了激活补丁在全局能力无损下仍存局部良性退化。

    深度解读完整解读
  5. 评测与基准arXiv 2610.06522

    SycoLens 研究：单一谄媚翻转率掩盖纠正与屈从的区别

    构建 SycoLens 重放评测，区分谄媚翻转中的纠错与屈从

    arXiv
    2610.06522
    发表
    层
    模型层
    场景
    模型与 API
    测试
    gemini-3.1-pro、gemini-3.5-flash、gemini-3.1-flash-lite 等 11 个
    摘要论文揭示施压句式、边界距离与格式偏置主导翻转率，提出系统解构纠错与顺从的综合评测方案。

    本文系统解构了大语言模型在用户质疑下的阿谀奉承行为与评测机制。

    深度解读完整解读
  7. 评测与基准arXiv 2610.02741

    研究系统评估循环语言模型的思维链可监控性

    系统评估循环语言模型加深 loop 后的 CoT 可监控性

    arXiv
    2610.02741
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Gemma-4-E4B、Ouro-1.4B-Thinking、Ouro-2.6B-Thinking 等 10 个
    摘要加深 loop 可在部分压力测试任务降低可监测性，循环架构本身并不必然更难监测。

    这项工作评估 LoopLM 的 CoT 可监测性：加深共享层的重复次数，以及“有循环结构”本身，会不会让决策关键因素更少出现在可监测文本里。

    深度解读完整解读
  8. 防御arXiv 2610.01170

    HeadEdit：通过冻结的 unembedding 矩阵校准语言模型行为

    提出 HeadEdit，经冻结 unembedding 做随输入变化的 logit 校正

    arXiv
    2610.01170
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Gemma-3-4B-IT、Qwen3-4B、Llama-3.2-3B-Instruct 等 4 个
    摘要低秩 unembedding 校正抬高九个设置的总体准确率，并可部分预测 DPO 更新。

    HeadEdit 是一种不更新参数的行为校准方法，作用点是冻结的 unembedding，而不是中间层残差或新的梯度优化。

    深度解读完整解读
  9. 评测与基准arXiv 2610.00568

    研究提出对齐诱导不忠实：对齐训练让模型静默改写输入内容

    提出 FAITHCONFLICT，测量对齐训练导致模型静默改写相悖输入

    arXiv
    2610.00568
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Gemma-3-12B、Gemma-3-27B、Llama-3.1-8B-Instruct 等 13 个
    摘要论文揭示并系统分析了大语言模型在安全与常识冲突下静默背离输入的 AIU 现象与三元冲突困境。

    本文系统揭示并实证分析了语言模型后训练中存在的“能力–安全–忠实度”三元冲突。

    深度解读完整解读
  10. 评测与基准arXiv 2607.27499

    研究者发布概念性论证评分数据集，含 951 条论证与 1458 条专家评分

    发布概念论证评分数据集并评测模型对批判的排序

    arXiv
    2607.27499
    发表
    层
    模型层
    场景
    模型与 API
    测试
    gemini-2.5-pro、gemini-2.5-flash、gemini-2.0-flash-lite-001 等 15 个
    摘要作者构建概念性批判评分集。

    作者做了一份专家多维评分的概念性论证批判数据，用来在没有标准答案时比较模型的论证判断。

    深度解读完整解读
  11. 风险行为arXiv 2607.14345

    Truthful AI 提出价值泄漏评估：模型答案被自身价值观悄然左右

    提出价值泄漏评估，测量模型回答受自身价值倾向的隐蔽影响

    arXiv
    2607.14345
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Gemini 3.1 Pro、Gemini 3.5 Flash、Gemini 2.5 Pro 等 15 个

    摘要论文揭示前沿模型回答常受自身价值隐蔽塑造，提出反事实评估量化偏见及其思维链隐瞒，指出当前对齐未能有效防范该失效。

    深度解读完整解读
  12. 可解释性arXiv 2610.01495

    路由熵能否作为 Attention-Residual Transformer 的不确定性信号？一项审计研究

    审计路由熵是否在置信度之外仍携带预测正确性信息

    arXiv
    2610.01495
    发表
    层
    模型层
    场景
    模型与 API
    测试
    ViT-B/16、Swin-Tiny、DeiT-Small
    摘要打乱对照上的优势没有变成相对置信度的优势，且已知信号下探针只恢复一部分效应。

    这篇工作审计 Attention-Residual 视觉 Transformer 的路由熵，能否在模型自身输出之外充当不确定性信号。

    深度解读完整解读
  15. 防御arXiv 2608.05578

    AMS 工具通过激活分析检测语言模型的安全训练改动

    提出 AMS，用激活分离与方向相似度检测安全训练改动

    arXiv
    2608.05578
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Gemma-2-9b-it、Gemma-2-2b-it、IlyaGusev/gemma-2-9b-it-abliterated 等 14 个
    摘要AMS 按激活签名把安全改动分四类，前三类可由两级扫描覆盖，行为微调会漏。

    AMS 是面向开放权重模型、部署前使用的激活扫描器，用来看安全训练被拿掉或改写之后，激活空间里还留着什么几何痕迹。

    深度解读完整解读
  16. 评测与基准arXiv 2608.20554

    aiXamine：跨维度评测 LLM 安全、安全（security）与隐私权衡

    提出 aiXamine 黑盒基准，统一评测 LLM 安全、稳健与隐私权衡

    arXiv
    2608.20554
    发表
    层
    模型层
    场景
    模型与 API
    测试
    google/gemini-3-flash-preview、google/gemini-2.5-flash、Gemma4-31B 等 15 个
    摘要aiXamine 用九服务黑盒协议比较百余个模型，作者称单轴信任度进展可能削弱其他轴。

    aiXamine 是一套黑盒评测协议，用来在同一条件下比较 LLM 的 safety、security 与 privacy，而不是再产出一个能力分。

    深度解读完整解读
  18. 评测与基准arXiv 2609.35312

    MemoReason 基准

    提出 MemoReason 基准，测量参数记忆对上下文推理的影响

    arXiv
    2609.35312
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Gemma-4-26B-A4B-it、GPT-OSS-20B、GPT-OSS-120B 等 9 个
    摘要配对的虚构替换显示熟悉度影响推理，但模型很少直接抄回事实答案。

    MemoReason 用结构相同的事实–虚构文档配对，测量参数记忆如何影响大模型的上下文推理。

    深度解读完整解读
加载更多