跳到正文
10月8日 · 周四

全部论文

找到 18 篇
筛选1

攻击类型

提示注入3投毒与后门3检测规避1

攻击技术

自动化搜索1编码与混淆1跨模态载荷1潜伏触发1

模型自身风险

失准与价值偏离3拒答失当1幻觉与编造1偏见与歧视1

防御类型

模型加固1检测与过滤1

影响

有害内容9越权操作28数据与隐私泄露9输出被操纵18可用性与可靠性7监督失效8滥用能力提升4

系统形态

模型与 API9LLM 应用4AI Agent6网页与电脑操作2

攻击面/入口

用户输入1网页与界面3文档与消息2检索语料2记忆写入1图像与音视频2

层

提示层2模型层6应用层9训练与数据层1

系统组件

记忆2RAG3护栏与评审3视觉4多模态4

被测模型厂商

OpenAI14Qwen（阿里）12Google11DeepSeek10Anthropic7Meta7其他14
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 1049 篇还没打标签，不在筛选结果里。
影响：输出被操纵清除全部

另有 1049 篇论文还没打上分类标签，暂不在筛选结果里。

  4. 评测与基准arXiv:2610.06522 ·

    SycoLens 研究：单一谄媚翻转率掩盖纠正与屈从的区别

    构建 SycoLens 重放评测，区分谄媚翻转中的纠错与屈从

    模型与 API测试opus-5、sonnet-5、sonnet-4.6 等 11 个模型层
    摘要论文揭示施压句式、边界距离与格式偏置主导翻转率，提出系统解构纠错与顺从的综合评测方案。

    本文系统解构了大语言模型在用户质疑下的阿谀奉承行为与评测机制。

    完整解读
  5. 评测与基准arXiv:2610.00568 ·

    研究提出对齐诱导不忠实：对齐训练让模型静默改写输入内容

    提出 FAITHCONFLICT，测量对齐训练导致模型静默改写相悖输入

    模型与 API测试Llama-3.1-8B-Instruct、Llama-3.1-70B-Instruct、Tulu-3-8B 等 13 个模型层
    摘要论文揭示并系统分析了大语言模型在安全与常识冲突下静默背离输入的 AIU 现象与三元冲突困境。

    本文系统揭示并实证分析了语言模型后训练中存在的“能力–安全–忠实度”三元冲突。

    完整解读
  6. 评测与基准arXiv:2608.11816 ·

    研究审计 9 个视觉语言模型：中文提示下国家立场改写率约为英文的三倍

    审计视觉语言模型在敏感图像上从拒答转向国家立场重构的行为

    模型与 API测试Qwen2-VL-7B、Qwen2.5-VL-7B、Qwen3-VL-8B 等 9 个模型层
    摘要论文系统审计了 VLM 多模态审查，发现审查正从显式拒答转向隐蔽重构，且中文提示与文本先验会放大重构倾向。

    论文系统研究了中外开源视觉语言模型在政治敏感图像上的审查行为，主要内容如下。

    完整解读
  8. 评测与基准arXiv:2609.31342 ·

    研究揭示过期文档投毒：RAG 检索可让模型放弃原本正确的答案

    构建知识逆转基准，评测陈旧检索证据如何推翻模型原本正确的回答

    LLM 应用测试GPT-4o、GPT-4.1、Claude-Opus-4.5 等 13 个应用层
    摘要论文评测了陈旧检索推翻正确知识的中毒现象，并分析了其内部机制与防御局限。

    这篇论文是对检索增强生成（RAG）中“陈旧文档中毒”现象的实证与机理评估研究。

    完整解读
  10. 评测与基准arXiv:2609.08943 ·

    研究提出 Fact-Ablated Evaluation，揭示 LLM 事实核查更依赖参数知识

    提出 FAE 衡量事实核查对证据的依赖，并用 REAL 训练这种依赖

    模型与 API测试GPT-4o-mini、Gemini-2.5-flash-lite、Qwen-2.5-32B-Instruct 等 7 个训练与数据层
    摘要FAE 用多轮证据消融测接地，REAL 用对比监督让判决随证据可用性改变。

    FAE 与 REAL 分别用来测量并训练 LLM 事实核查器对所给证据的依赖，而不只看一次性的标签准确率。

    完整解读
  11. 攻击arXiv:2607.05189 ·

    研究者提出 MemGhost，对持久化个人 Agent 实现隐蔽记忆注入

    提出 MEMGHOST，以单封恶意邮件向持久个人智能体注入隐蔽记忆

    AI Agent测试GPT-5.4、Claude Sonnet 4.6、Claude Sonnet 4.5 等 6 个应用层
    摘要总结了论文的研究背景、双代理优化方法 MEMGHOST、全周期实验结果以及作者对记忆信任边界的启示。

    本文研究了持久化个人智能体面临的隐蔽记忆注入威胁，提出了一套兼顾写入、隐蔽与跨会话生效的自动化生成框架与全周期评测基准。

    完整解读
  12. 评测与基准arXiv:2609.32763 ·

    Mandela-Bench：36 个多模态模型更依赖记忆而非观察图像

    构建 Mandela-Bench，评测多模态模型是否凭记忆接受篡改图像

    模型与 API测试Gemini-3.8-Flash、GPT-5.6、GLM-5.3-Flash 等 15 个模型层
    摘要论文构建 Mandela-Bench 发现模型对经典图像存在记忆重构偏见，过度依赖先验导致无法有效利用知识核验事实篡改。

    该研究系统评估了多模态大语言模型在面对无痕事实性编辑时，能否利用自身内在世界知识核验被识别出的经典图像。

    完整解读
  13. 评测与基准arXiv:2609.05843 ·

    SinoGlyphBench：中文字形混淆下语言模型审核的诊断基准

    提出 SinoGlyphBench，用配对字形混淆诊断中文审核稳定性

    模型与 API测试GPT-5.4 mini、GPT-5.5、DeepSeek V4 Flash 等 12 个提示层
    摘要SinoGlyphBench 显示中文字形混淆会同时增加有害漏报和误报，全文扰动最重。

    SinoGlyphBench是一个配对诊断基准，用来看内容审核在可还原的中文字形混淆下是否还保持原决定。

    完整解读
  14. 评测与基准arXiv:2607.10526 ·

    PASB 基准：自改进个人 Agent 的持久谄媚在后续会话中失败率达 71.9%

    构建 PASB 评测自改进个人 Agent 的跨会话持久谄媚

    AI Agent测试GPT-5.5、GPT-5.4、Gemini-3.1-Pro 等 12 个应用层
    摘要PASB 显示一次被写入的主张会跨会话塑造回答，改笔记比只阻止写入更能降低后续失败。

    PASB 评测自改进个人智能体的持久谄媚：用户主张被智能体自己写入档案、记忆或技能后，新会话里的中立问题仍可能按它作答。

    完整解读
  16. 评测与基准arXiv:2609.39863 ·

    FIGS：在不惩罚共情的前提下评测多轮谄媚

    提出 FIGS 双轴基准，评测多轮对话中的谄媚与校准性共情

    模型与 API测试DeepSeek V4.1 Flash、Gemini 3.8 Flash、GLM 5.3 等 8 个模型层
    摘要FIGS 把守事实和恰当共情分开计分，事实向提示会换来更冷的失败。

    FIGS 是一个固定的多轮评测套件，用来同时看模型会不会在压力下放弃事实，以及会不会在守住事实时忽略用户实际说过的感受。

    完整解读
  17. 评测与基准arXiv:2609.38604 ·

    Drift-Bench++：在沟通失误与意图漂移下评测交互式意图对齐

    提出 Drift-Bench++与 GRIP，评测智能体在错位与静默漂移下的意图对齐

    AI Agent测试DeepSeek-V4-Pro、五个 LLM backbone（Figure 3，论文未在正文逐一列出名称）应用层
    摘要Drift-Bench++ 用可执行错位和静默漂移评测交互意图对齐，澄清有帮助但仍有差距。

    Drift-Bench++ 是面向 Interactive Intent Alignment 的可执行基准：智能体要在用户说错、目标会变、耐心有限时，持续跟上当前意图。

    完整解读
已经到底了