跳到正文
10月8日 · 周四

全部论文

找到 6 篇
筛选2

攻击类型

越狱1投毒与后门1检测规避1

模型自身风险

幻觉与编造1

防御类型

模型加固1推理时干预1检测与过滤3

影响

有害内容2数据与隐私泄露1输出被操纵2

系统形态

模型与 API3LLM 应用3

攻击面/入口

用户输入3网页与界面1检索语料1图像与音视频1

层

提示层1模型层1应用层3训练与数据层1

系统组件

MCP 与技能9记忆1RAG3护栏与评审14监控器11推理链4权限与沙箱16微调与开源权重10视觉9音频3图像生成4多模态14

被测模型厂商

其他6
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 989 篇还没打标签，不在筛选结果里。
系统组件：RAG系统组件：音频清除全部

另有 989 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2609.02316

    Counter-GEO-Bench：现有护栏难挡 GEO 虚假信息

    构建 COUNTER-GEO-BENCH，评测生成式搜索对信息扭曲 GEO 的防御

    arXiv
    2609.02316
    发表
    层
    应用层
    场景
    LLM 应用
    测试
    Gemma-4-31B-IT、Qwen-3.5-35B-A3B、Llama-4-Scout-17B-16E 等 11 个

    摘要论文构建了针对 GEO 虚假信息的首个防御基准，揭示通用护栏的失效与反作用，并提出了有效的轻量对比检测基线。

    深度解读完整解读
  3. 防御arXiv 2609.37568

    SECRET：用源条件化中继引导缓解音视频大语言模型的幻觉

    提出训练无关的 SECRET，对问题表征做源条件转向以缓解音视频模型幻觉

    arXiv
    2609.37568
    发表
    层
    模型层
    场景
    模型与 API
    测试
    VideoLLaMA2-AV-7B、Qwen2.5-Omni-7B、Qwen3-Omni-30B-A3B
    摘要SECRET 在问题状态上做源条件转向，三个 AVLLM 上减轻了跨模态接地幻觉。

    SECRET 是一种训练无关的问题状态转向方法，用来减轻 AVLLM 的 source-confused grounding hallucination。

    深度解读完整解读
  5. 防御arXiv 2609.12623

    SteerDuplex：可操控的全双工语音对话模型

    提出 SteerDuplex，用监督微调与两阶段强化学习提升全双工语音对话可控性

    arXiv
    2609.12623
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    SteerDuplex-SFT、SteerDuplex-RL、Moshi 等 4 个
    摘要SteerDuplex 用 SFT 提升语音可控，用两阶段 RL 改时序，并记录奖励黑客。

    SteerDuplex 是基于 Moshi 的全双工语音模型，目标是在保留轮替、打断和一般任务能力的同时，按用户指令改变内容与发声。

    深度解读完整解读
  6. 防御arXiv 2608.12361

    基于搜索增强 LLM 的中文新词毒性共识检测框架 SeTox

    提出 SeTox 检索增强框架，检测中文新词的隐性毒性

    arXiv
    2608.12361
    发表
    层
    应用层
    场景
    LLM 应用
    测试
    Perspective-API、Baidu-API、Tencent-API 等 14 个
    摘要SeTox 用检索把公共共识接入静态 LLM，以检测中文毒性新词。

    SeTox 研究中文新词上的隐性毒性检测：词表加检索增强，使静态 LLM 在不重训练的情况下利用公开网页上下文。

    深度解读完整解读
已经到底了