跳到正文
10月13日 · 周二

全部论文

找到 231篇
筛选4

攻击类型

越狱10提示注入34投毒与后门52检测规避34恶意使用6

攻击技术

梯度与表征优化24自动化搜索14编码与混淆7角色扮演与说服6跨模态载荷14针对防御14潜伏触发15

模型自身风险

欺骗与谋划6奖励作弊3失准与价值偏离14Agent 危险操作13拒答失当3幻觉与编造20偏见与歧视6

防御类型

模型加固22推理时干预10检测与过滤21指令与数据隔离3权限与审批5监控与审计7水印与溯源4

影响

有害内容291越权操作44数据与隐私泄露81输出被操纵187可用性与可靠性46监督失效82滥用能力提升10

系统形态

模型与 API174LLM 应用77AI Agent323coding agent57science agent9web agent21网页与电脑操作13多智能体39具身与机器人18

攻击者权限

黑盒13灰盒4白盒7

攻击面/入口

用户输入43文档与消息4工具返回6工具与技能描述17代码仓库与依赖13记忆写入3图像与音视频44训练数据30权重与梯度15分发渠道22推理服务与硬件5

层

提示层54模型层80应用层51训练与数据层42基础设施层4

系统组件

MCP 与技能15记忆5护栏与评审17监控器7推理链10权限与沙箱5微调与开源权重16视觉43音频9视频6图像生成9多模态62
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 215篇还没打标签，不在筛选结果里。
影响：越权操作影响：输出被操纵系统形态：模型与 API系统形态：coding agent清除全部

另有215篇论文还没打上分类标签，暂不在筛选结果里。

  2. 分析与理论arXiv 2610.13051

    空间胜过统计量，重训练胜过排序：审计仅标签后门下的训练标签

    审计仅标签后门的训练标签，比较空间与统计量并以重训评判

    arXiv
    2610.13051
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    ResNet-32
    摘要查标签要在未拟合这些标签的空间里做，并用重训模型而不是检测分数评判。

    作者问的是：手里没有可信数据的防御者，能否决定留下哪些训练标签，以及这会毁掉多少干净数据、最终模型准确率如何。

    深度解读完整解读
  3. 攻击arXiv 2610.12644

    癌变式后门攻击：借助不可见 token 与阶段控制器实现渐进激活

    提出 Cancerous 后门，用不可见阶段 token 分阶段腐蚀推理

    arXiv
    2610.12644
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    Llama-3.1-8B-Instruct、Qwen2.5-7B-Instruct、Mistral-7B-Instruct-v0.3
    摘要隐藏 token 加阶段控制器使后门随触发累积腐蚀推理，作者认为只看答案会漏掉它。

    Cancerous Backdoor Attack 把 LLM 后门从一次激活改成随触发累积推进的多阶段推理腐蚀。

    深度解读完整解读
  4. 分析与理论arXiv 2610.12313

    研究测试五个大模型合规系统对监管规则扰动的敏感度

    诊断合规系统裁决是否随监管规则扰动而改变

    arXiv
    2610.12313
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    Llama-3.3-70B-Instruct、Llama-3.1-8B-Instruct、Qwen2.5-7B-Instruct 等5个
    摘要五模型上许多正确裁决对删换否定规则大体不变。

    用行为反事实和激活探针，审计合规裁决是否依赖所给规则。。作者要分开两种看起来一样的正确裁决：用了所给规则的，以及靠案例表面或训练模式得到的。

    深度解读完整解读
  5. 分析与理论arXiv 2610.12125

    研究者发现优化教学适配度指标会让 LLM 导师重复同一选项，专家评分从 4.46 降到 3.03

    分析优化教学适配指标为何使辅导选择塌缩并偏离专家判断

    arXiv
    2610.12125
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    Gemini 3.1 Pro Preview、Qwen3-32B
    摘要指标上升而专家评分下降：可分平均的最优是重复，校正主要改写了输出投影。

    把教学适配指标做成微调目标后，指标上升，受过训练的教育者给出的评分下降。。

    深度解读完整解读
  6. 防御arXiv 2610.11352

    RL-ARC：用推理引导的不确定性校准大型推理模型

    提出 RL-ARC，用推理置信度在强化学习中校准推理模型

    arXiv
    2610.11352
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    Qwen2.5-7B、Qwen3-8B、Llama-8B distilled from DeepSeek-R1
    摘要RL-ARC 用推理置信度调节答案置信度，作者称可少牺牲精度并改善 ID 与 OOD 校准。

    RL-ARC 是校准感知的强化学习框架，用推理过程的口头置信度调节答案置信度。

    深度解读完整解读
  7. 评测与基准arXiv 2610.11305

    BeliefScope：区分证据与用户压力对模型信念影响的受控框架

    用 BeliefScope 分离固定命题上证据与压力对模型信念的影响

    arXiv
    2610.11305
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Qwen3-8B、Llama3.1-8B、Gemma3-12B 等4个
    摘要BeliefScope 把证据修正与压力偏移拆成绑定评测条件的行为画像。

    BeliefScope 是一个黑盒行为诊断框架，用来把固定命题上的回答变化拆成证据驱动的修正，和不加新事实的方向性压力。信念修正评测能看到信息基础变化后的更新，谄媚评测能看到用户影响下的顺从或漂移。作者认为，当两种输入都偏向同一结论时，表面偏移本身不能区分来源。

    深度解读完整解读
  8. 评测与基准arXiv 2610.11112

    EpiReal-Bench：商用图像生成模型虚假声明红队基准

    构建 EpiReal-Bench，评测图像生成器将虚假主张渲染为可信证据

    arXiv
    2610.11112
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    黑盒
    被测模型
    GPT-Image-2、Nano Banana 2、Grok Imagen 2.0 等4个
    摘要四款商用图像模型能把假主张画成可信证据。

    EpiReal-Bench 用来量商用图像生成器会不会把虚假现实主张画成可信视觉证据。

    深度解读完整解读
  9. 评测与基准arXiv 2610.09964

    研究比较连续训练阶段对大语言模型说服力的影响

    比较连续后训练阶段如何改变语言模型的说服力

    arXiv
    2610.09964
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    mlabonne/Meta-Llama-3.1-8B-Instruct-abliterated、GPT-4
    摘要作者称说服性 SFT 提高失调模型的态度变化，IPO 无额外收益，GPT-4 不异于中性文本。

    作者用同一人类协议，把 LLM 说服力拆成阴谋数据上的失调 SFT、说服数据上的 SFT，以及其后的 IPO。

    深度解读完整解读
  10. 防御arXiv 2610.09941

    OrthoPurify 用一步正交投影净化被后门污染的视觉语言模型

    提出 OrthoPurify，用正交投影清除视觉语言模型适配器中的劫持方向

    arXiv
    2610.09941
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    LLaVA-1.5-7B、Qwen3-VL-8B、LLaVA-1.5-13B 等5个
    摘要一次投影去掉劫持方向。

    OrthoPurify 是部署前的 LVLM 后门净化方法，用一次正交投影去掉被劫持的权重更新方向。

    深度解读完整解读
  11. 攻击arXiv 2610.10612

    PyCache Trap 利用 Python 缓存替换绕过七款 Agent Skill 扫描器

    提出 PyCache Trap，用字节码缓存替换绕过 Agent 技能扫描器

    arXiv
    2610.10612
    发表
    层
    应用层
    场景
    coding agent
    被测模型
    CISCO、HSS、AUDITOR 等8个
    摘要论文剖析智能体技能审查与执行脱节盲区，提出 PyCache Trap 攻击并构建基于可信复现的 EAV 防御。

    这篇论文研究了智能体技能（Agent Skills）安全扫描中的“审查–执行脱节”问题，并提出了对应的攻击验证与防御方案。

    深度解读完整解读
  14. 攻击arXiv 2610.09264

    研究者提出 PackHallu：经规则文件提示注入对编码 Agent 发起包幻觉攻击

    提出 PackHallu，经规则文件提示注入诱导编码 Agent 换用攻击者指定包

    arXiv
    2610.09264
    发表
    层
    应用层
    场景
    coding agent
    被测模型
    Qwen2.5-Coder-7B、Qwen3-Coder-30B、Devstral-Small-2-24B 等19个
    摘要PackHallu 诱导规则文件换包。

    PackHallu 研究一种针对编程智能体规则文件的提示注入：让智能体在本应使用合法依赖时，改导入攻击者指定并控制的包。

    深度解读完整解读
  15. 攻击arXiv 2610.09027

    P-VMI：对抗图像经 KV cache 持续影响多轮对话

    提出持久视觉记忆注入，使对抗图像经缓存在触发时操控输出

    arXiv
    2610.09027
    发表
    层
    基础设施层
    场景
    模型与 API
    被测模型
    Qwen3-8B、Qwen3-VL-8B-Instruct、Gemma-4-12B

    摘要论文提出 P-VMI，证实对抗输入被掩蔽后仍可经 KV 缓存持久控制模型，强调了保留状态的安全风险。

    深度解读完整解读
  17. 风险行为arXiv 2610.08670

    研究：后训练配方决定大模型是否违背自身道德判断行事

    提出知行差距面板，测量压力下模型是否违背自身判断

    arXiv
    2610.08670
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    OLMo-3-7B-Instruct、Llama-3.1-8B-Instruct、Tulu 3 等7个
    摘要评估发现后训练配方决定知行差距是否存在，行动前审思可有效缓解。

    本文评估了开源语言模型作为智能体行动时违背自身道德判断的知行差距及其决定因素。

    深度解读完整解读
加载更多