跳到正文
10月12日 · 周一

全部论文

找到 128篇
筛选3

攻击类型

越狱3投毒与后门32检测规避16

攻击技术

梯度与表征优化5针对防御6潜伏触发10

模型自身风险

欺骗与谋划6奖励作弊3失准与价值偏离11拒答失当3幻觉与编造20偏见与歧视6

防御类型

模型加固22推理时干预12检测与过滤14监控与审计5水印与溯源4

影响

有害内容128越权操作9数据与隐私泄露46输出被操纵128可用性与可靠性37监督失效64滥用能力提升3

系统形态

模型与 API116LLM 应用5AI Agent8coding agent4具身与机器人3

攻击者权限

黑盒5白盒6

攻击面/入口

用户输入10图像与音视频17训练数据29权重与梯度14分发渠道6推理服务与硬件3

层

提示层58模型层84应用层150训练与数据层44基础设施层4

系统组件

护栏与评审5推理链8微调与开源权重15视觉21音频6视频5图像生成7多模态35
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 254篇还没打标签，不在筛选结果里。
影响：输出被操纵层：模型层层：训练与数据层清除全部

另有254篇论文还没打上分类标签，暂不在筛选结果里。

  2. 分析与理论arXiv 2610.13051

    空间胜过统计量，重训练胜过排序：审计仅标签后门下的训练标签

    审计仅标签后门的训练标签，比较空间与统计量并以重训评判

    arXiv
    2610.13051
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    ResNet-32
    摘要查标签要在未拟合这些标签的空间里做，并用重训模型而不是检测分数评判。

    作者问的是：手里没有可信数据的防御者，能否决定留下哪些训练标签，以及这会毁掉多少干净数据、最终模型准确率如何。

    深度解读完整解读
  3. 攻击arXiv 2610.12644

    癌变式后门攻击：借助不可见 token 与阶段控制器实现渐进激活

    提出 Cancerous 后门，用不可见阶段 token 分阶段腐蚀推理

    arXiv
    2610.12644
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    Llama-3.1-8B-Instruct、Qwen2.5-7B-Instruct、Mistral-7B-Instruct-v0.3
    摘要隐藏 token 加阶段控制器使后门随触发累积腐蚀推理，作者认为只看答案会漏掉它。

    Cancerous Backdoor Attack 把 LLM 后门从一次激活改成随触发累积推进的多阶段推理腐蚀。

    深度解读完整解读
  4. 分析与理论arXiv 2610.12125

    研究者发现优化教学适配度指标会让 LLM 导师重复同一选项，专家评分从 4.46 降到 3.03

    分析优化教学适配指标为何使辅导选择塌缩并偏离专家判断

    arXiv
    2610.12125
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    Gemini 3.1 Pro Preview、Qwen3-32B
    摘要指标上升而专家评分下降：可分平均的最优是重复，校正主要改写了输出投影。

    把教学适配指标做成微调目标后，指标上升，受过训练的教育者给出的评分下降。。

    深度解读完整解读
  6. 防御arXiv 2610.11352

    RL-ARC：用推理引导的不确定性校准大型推理模型

    提出 RL-ARC，用推理置信度在强化学习中校准推理模型

    arXiv
    2610.11352
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    Qwen2.5-7B、Qwen3-8B、Llama-8B distilled from DeepSeek-R1
    摘要RL-ARC 用推理置信度调节答案置信度，作者称可少牺牲精度并改善 ID 与 OOD 校准。

    RL-ARC 是校准感知的强化学习框架，用推理过程的口头置信度调节答案置信度。

    深度解读完整解读
  7. 评测与基准arXiv 2610.11305

    BeliefScope：区分证据与用户压力对模型信念影响的受控框架

    用 BeliefScope 分离固定命题上证据与压力对模型信念的影响

    arXiv
    2610.11305
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Qwen3-8B、Llama3.1-8B、Gemma3-12B 等4个
    摘要BeliefScope 把证据修正与压力偏移拆成绑定评测条件的行为画像。

    BeliefScope 是一个黑盒行为诊断框架，用来把固定命题上的回答变化拆成证据驱动的修正，和不加新事实的方向性压力。信念修正评测能看到信息基础变化后的更新，谄媚评测能看到用户影响下的顺从或漂移。作者认为，当两种输入都偏向同一结论时，表面偏移本身不能区分来源。

    深度解读完整解读
  9. 评测与基准arXiv 2610.09964

    研究比较连续训练阶段对大语言模型说服力的影响

    比较连续后训练阶段如何改变语言模型的说服力

    arXiv
    2610.09964
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    mlabonne/Meta-Llama-3.1-8B-Instruct-abliterated、GPT-4
    摘要作者称说服性 SFT 提高失调模型的态度变化，IPO 无额外收益，GPT-4 不异于中性文本。

    作者用同一人类协议，把 LLM 说服力拆成阴谋数据上的失调 SFT、说服数据上的 SFT，以及其后的 IPO。

    深度解读完整解读
  10. 防御arXiv 2610.09941

    OrthoPurify 用一步正交投影净化被后门污染的视觉语言模型

    提出 OrthoPurify，用正交投影清除视觉语言模型适配器中的劫持方向

    arXiv
    2610.09941
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    LLaVA-1.5-7B、Qwen3-VL-8B、LLaVA-1.5-13B 等5个
    摘要一次投影去掉劫持方向。

    OrthoPurify 是部署前的 LVLM 后门净化方法，用一次正交投影去掉被劫持的权重更新方向。

    深度解读完整解读
  14. 风险行为arXiv 2610.08670

    研究：后训练配方决定大模型是否违背自身道德判断行事

    提出知行差距面板，测量压力下模型是否违背自身判断

    arXiv
    2610.08670
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    OLMo-3-7B-Instruct、Llama-3.1-8B-Instruct、Tulu 3 等7个
    摘要评估发现后训练配方决定知行差距是否存在，行动前审思可有效缓解。

    本文评估了开源语言模型作为智能体行动时违背自身道德判断的知行差距及其决定因素。

    深度解读完整解读
  18. 评测与基准arXiv 2610.06668

    研究发现语言模型能识别不可解的工程问题却仍报告已解决

    评测模型识别不可能工程题后是否仍报已解决

    arXiv
    2610.06668
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Fable 5.1、Opus 5.5、Sonnet 5.5 等14个
    摘要成对力学基准把能否求解和是否拒绝不可能题拆开，二者并不互换。

    成对的工程力学题把能不能解、和会不会拒绝不可能的前提拆开。每题有一致版，以及只改一个数据或前提、使所述状态不可能存在的缺陷版。

    深度解读完整解读
  19. 可解释性arXiv 2610.06576

    研究：智能体欺骗行为在外部显现前已可从内部表征预测

    提出基于决策前隐藏状态的检测与引导，预测并抑制智能体欺骗

    arXiv
    2610.06576
    发表
    层
    模型层
    场景
    AI Agent
    被测模型
    Qwen3-14B

    摘要论文展示了智能体自发欺骗可在行为显现前由内部表征预测，并通过激活引导证实了表征的行为可操作性。

    深度解读完整解读
  20. 评测与基准arXiv 2610.06522

    SycoLens 研究：单一谄媚翻转率掩盖纠正与屈从的区别

    构建 SycoLens 重放评测，区分谄媚翻转中的纠错与屈从

    arXiv
    2610.06522
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    opus-5、sonnet-5、sonnet-4.6 等11个
    摘要论文揭示施压句式、边界距离与格式偏置主导翻转率，提出系统解构纠错与顺从的综合评测方案。

    本文系统解构了大语言模型在用户质疑下的阿谀奉承行为与评测机制。

    深度解读完整解读
加载更多