跳到正文
10月12日 · 周一

全部论文

找到 853篇
筛选1

攻击类型

越狱202提示注入15投毒与后门47模型篡改33提取与窃取60检测规避51拒绝服务4恶意使用13

攻击技术

梯度与表征优化44自动化搜索51多轮渐进21编码与混淆35角色扮演与说服23对话结构操控11推理链操控9跨模态载荷43侧信道3针对防御23潜伏触发17

模型自身风险

欺骗与谋划26奖励作弊37失准与价值偏离35危险能力5拒答失当60幻觉与编造24偏见与歧视20

防御类型

模型加固118推理时干预39检测与过滤44指令与数据隔离8监控与审计22水印与溯源15

影响

有害内容266数据与隐私泄露63输出被操纵168可用性与可靠性34监督失效62滥用能力提升3

系统形态

模型与 API853LLM 应用136AI Agent644coding agent135science agent32web agent34网页与电脑操作19多智能体77具身与机器人47

攻击者权限

黑盒121灰盒12白盒52无盒（离线迁移）5

攻击面/入口

用户输入268文档与消息8工具返回5检索语料3图像与音视频96训练数据62权重与梯度61分发渠道12推理服务与硬件17

层

提示层226模型层396应用层9训练与数据层203基础设施层19

系统组件

护栏与评审83监控器26推理链57微调与开源权重55视觉95音频32视频11图像生成45嵌入4多模态173
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 281篇还没打标签，不在筛选结果里。
系统形态：模型与 API清除全部

另有281篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2610.13928

    AI 模型可被证明地隐藏任意能力

    提出数字锁编译，把可执行网络加密进宿主权重以隐藏任意能力

    arXiv
    2610.13928
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Gemma 3 270M
    摘要作者用数字锁隐藏可执行能力，并称化学与奇偶任务上的引出未恢复该能力。

    作者构造一类把可执行网络加密进权重的后门，用来讨论白盒引出审计在供应链攻击下的界限。。

    深度解读完整解读
  4. 防御arXiv 2610.13333

    LETHE：通过价值多样性坍缩防御未授权的图像到视频生成

    提出 LETHE，扰动参考图以阻止未授权图生视频

    arXiv
    2610.13333
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    Wan2.1-I2V-14B、CogVideoX-5B-I2V、LightX2V 等6个
    摘要LETHE 压低参考 value 多样性并吸引注意力，使受保护图难以被忠实动画化。

    LETHE 是一种发布前加到个人图像上的保护扰动，用来对付未经同意的图生视频。

    深度解读完整解读
  5. 可解释性arXiv 2610.13078

    注意力看见，MLP 拒绝：追踪 LLM 中从注意力到 MLP 的安全路径

    追踪注意力识别有害性到 MLP 拒绝写入的通路并提出 Sentinel

    arXiv
    2610.13078
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Llama-3.1-8B-Instruct、Qwen2.5-7B-Instruct、Qwen3-8B-Instruct 等18个
    摘要注意力更新更易读出有害性，MLP 更新写入拒绝，Sentinel 用两路信号路由提醒。

    作者把对齐模型的越狱和过度拒绝，改写成残差流上从识别到写入的通路问题，并据此做解码前的条件提醒。

    深度解读完整解读
  6. 分析与理论arXiv 2610.13051

    空间胜过统计量，重训练胜过排序：审计仅标签后门下的训练标签

    审计仅标签后门的训练标签，比较空间与统计量并以重训评判

    arXiv
    2610.13051
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    ResNet-32
    摘要查标签要在未拟合这些标签的空间里做，并用重训模型而不是检测分数评判。

    作者问的是：手里没有可信数据的防御者，能否决定留下哪些训练标签，以及这会毁掉多少干净数据、最终模型准确率如何。

    深度解读完整解读
  7. 可解释性arXiv 2610.12989

    GPT-2-Small、Gemma-2-2B 与 Llama-3.1-8B 具有可解释的叙事机制

    用 NVC 定位并消融语言模型的叙事相关组件

    arXiv
    2610.12989
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    GPT-2-Small-124M、Gemma-2-2B、Llama-3.1-8B
    摘要三个模型里与叙事性相关的神经元和 SAE 特征，消融后会改变部分叙事相关行为。

    作者把叙事学的三维定义接上机制干预，检查预训练语言模型里与叙事性相关的组件是否参与预测、生成和下游任务。

    深度解读完整解读
  10. 评测与基准arXiv 2610.12758

    DistressBench：评估大语言模型的多维度危机支持

    提出 DistressBench，评测模型在危机对话中的多维支持

    arXiv
    2610.12758
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Muse Spark 1.2、Muse Spark 1.3、Muse Glimmer 30B 等20个
    摘要模型更会克制而较少行动。

    DistressBench 用临床人员撰写并修订的 SSH 对话，按加权原子标准评通用聊天模型送达了多少必要照护，而不是评它是否拒绝。用户向聊天模型披露自杀或自伤时，作者认为期望行为是识别、校准共情、降缓并转介人工帮助。拒绝式评测测不到认出危机之后仍不行动。

    深度解读完整解读
  11. 攻击arXiv 2610.12644

    癌变式后门攻击：借助不可见 token 与阶段控制器实现渐进激活

    提出 Cancerous 后门，用不可见阶段 token 分阶段腐蚀推理

    arXiv
    2610.12644
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    Llama-3.1-8B-Instruct、Qwen2.5-7B-Instruct、Mistral-7B-Instruct-v0.3
    摘要隐藏 token 加阶段控制器使后门随触发累积腐蚀推理，作者认为只看答案会漏掉它。

    Cancerous Backdoor Attack 把 LLM 后门从一次激活改成随触发累积推进的多阶段推理腐蚀。

    深度解读完整解读
  12. 防御arXiv 2610.12602

    语言模型中的自我保存

    提出 Task Bank 自回放，缓解持续指令微调的留出遗忘

    arXiv
    2610.12602
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    Qwen3-0.6B、Qwen3-1.7B、Qwen3-4B 等4个
    摘要作者称自回放可在清单外减遗忘，4B 上新任务信息有助于选目标，小模型则无。

    作者研究语言模型学习新任务时，如何用自身知识做更广的自我保持：给定清单不完整，遗忘又会超出清单，模型能否生成回放并帮忙选择目标。

    深度解读完整解读
  13. 可解释性arXiv 2610.12410

    论文提出对齐泛化预测任务，用激活表征预测微调价值观的跨情境影响

    比较价值表征对单价值微调后对齐泛化的预测力

    arXiv
    2610.12410
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Olmo-3-7B、Olmo-3-32B、Qwen-3-8B-Base 等4个
    摘要激活表征可在训练前预测跨价值泛化，并关联多价值目标的鲁棒性。

    作者把“单价值微调会如何改变未训练价值上的依从”定义成可在训练前预测的任务，并用价值表征来做这件事。

    深度解读完整解读
  14. 分析与理论arXiv 2610.12409

    研究者对 HELM Safety 与 HarmBench 做心理测量学审查，质疑其分数能否代表单一属性

    审计 HarmBench 分数能否代表单一 harmful refusal 属性

    arXiv
    2610.12409
    发表
    层
    模型层
    场景
    模型与 API
    摘要作者称 HarmBench 不对应单一 harmful refusal，比较模型时应把行为分开。

    这是对 HELM Safety 中 HarmBench 的构念效度审计，检查 harmful refusal 能否作为单一属性来读分数。。

    深度解读完整解读
  15. 可解释性arXiv 2610.12361

    研究：法律推理模型引用法条不等于依据法条

    用依据置换与隐层追踪审计法律思维链是否真正依赖所引法条

    arXiv
    2610.12361
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Qwen3-8B、Qwen3-14B、Llama-3.1-8B 等7个
    摘要作者通过依据置换反事实与内部承诺追踪发现法律 CoT 裁决对依据依赖度有限，且易受提示注入操纵。

    本研究针对法律领域大语言模型思维链推理中引用法律依据的因果真实性展开实证审计。

    深度解读完整解读
  16. 分析与理论arXiv 2610.12313

    研究测试五个大模型合规系统对监管规则扰动的敏感度

    诊断合规系统裁决是否随监管规则扰动而改变

    arXiv
    2610.12313
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    Llama-3.3-70B-Instruct、Llama-3.1-8B-Instruct、Qwen2.5-7B-Instruct 等5个
    摘要五模型上许多正确裁决对删换否定规则大体不变。

    用行为反事实和激活探针，审计合规裁决是否依赖所给规则。。作者要分开两种看起来一样的正确裁决：用了所给规则的，以及靠案例表面或训练模式得到的。

    深度解读完整解读
  17. 其他arXiv 2610.12235

    论文提出用语言模型充当 AI 研究世界模型，预测实验结果

    提出研究世界模型，用语言模型预测干预增益

    arXiv
    2610.12235
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Claude Opus 5、Grok-4.6、GPT-6 Astra 等13个
    摘要作者称实验记录可在环境内外复用，并改善固定预算下的实验选择。

    作者把语言模型用作研究世界模型，在执行前预测干预增益的中位数，用来在有限预算下比较候选实验。要处理的缺口是研究智能体提案快于执行。同一类改动在不同参考模型、配方和预算下效果可以不同，因此需要能离开原环境继续使用的实验知识。

    深度解读完整解读
  19. 分析与理论arXiv 2610.12125

    研究者发现优化教学适配度指标会让 LLM 导师重复同一选项，专家评分从 4.46 降到 3.03

    分析优化教学适配指标为何使辅导选择塌缩并偏离专家判断

    arXiv
    2610.12125
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    Gemini 3.1 Pro Preview、Qwen3-32B
    摘要指标上升而专家评分下降：可分平均的最优是重复，校正主要改写了输出投影。

    把教学适配指标做成微调目标后，指标上升，受过训练的教育者给出的评分下降。。

    深度解读完整解读
  20. 分析与理论arXiv 2610.12083

    论文审计 LLM 裁判可靠性：重复一致不等于正确

    审计 LLM 裁判可靠性并定义可信判决率与准确率上界

    arXiv
    2610.12083
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    GPT-5.2、GPT-4o、Gemini-2.5-Pro 等6个
    摘要作者称比较裁判应看 T，而不是只看准确率。

    作者审计 LLM-as-a-Judge 在重复查询、交换候选顺序和更换提示格式时，判决是否还能当作可操作的真值。

    深度解读完整解读
加载更多