跳到正文
10月10日 · 周六

全部论文

找到 6 篇
筛选2

系统形态

LLM 应用4

层

应用层4

系统组件

RAG3护栏与评审7监控器3推理链12权限与沙箱3微调与开源权重3视觉4多模态6
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 194 篇还没打标签，不在筛选结果里。
系统组件：RAG系统组件：监控器清除全部

另有 194 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 分析与理论arXiv 2610.04860

    研究揭示文本水印会诱发模型幻觉，并提出两种缓解干预

    分析文本水印在 RAG 中诱发事实幻觉的机制并提出干预

    arXiv
    2610.04860
    发表
    层
    模型层
    场景
    LLM 应用
    被测模型
    LLaMA 3.1 8B Instruct、Mistral-7B-Instruct-v0.3、Qwen2.5-14B-Instruct
    摘要论文揭示了生产环境文本水印导致模型事实退化的失效模式，分析了解码机制并提出针对性干预。

    论文研究生产级文本水印对大语言模型事实准确性的影响，分析了水印诱发幻觉的失效模式并评估了针对性缓解方案。

    深度解读完整解读
  2. 分析与理论arXiv 2609.37312

    研究：隐蔽推理必然留下信息痕迹，但思维链未必可读

    分析隐蔽推理在思维链监控下的信息足迹下界与不可读性

    arXiv
    2609.37312
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、Qwen 3.5 397B-A17B 等 12 个

    摘要论文从理论与实证探明了思维链监控的边界：复杂隐蔽计算必然泄露信息足迹且需承担长度税，但该足迹可被在线加密而不可读。

    深度解读完整解读
  3. 分析与理论arXiv 2609.32390

    基于 2026 年 Hugging Face 事件的奖励作弊与 Agent 围堵失效蒙特卡洛研究

    用五阶段蒙特卡洛分析奖励作弊如何导致 Agent 围堵失效

    arXiv
    2609.32390
    发表
    层
    应用层
    场景
    AI Agent
    摘要分层控制的模拟事件率低于弱控制以及单独隔离或单独监控。

    这项研究用蒙特卡洛把奖励黑客接到外部安全事件上，比较的是控制组合，不是 Hugging Face 事件的再现概率。

    深度解读完整解读
  4. 分析与理论arXiv 2609.30467

    研究提出医疗答案事实核查失败分类法，指出检索后验证范式的固有局限

    归纳开放式医学长答案检索核验的失败分类

    arXiv
    2609.30467
    发表
    层
    应用层
    场景
    LLM 应用
    被测模型
    GPT-5.4、Mistral Small 3 (24B-Instruct-2501)、Mistral Small 4 (119B-2603) 等 8 个
    摘要作者把开放式低召回归为证据是否在库、能否被定位，以及与声明是否对齐。

    这篇工作诊断开放式医学事实核验的 retrieve-then-verify 管线断在哪里，而不是提出新的核验器。

    深度解读完整解读
  5. 分析与理论arXiv 2609.12841

    Trace2ATT&CK：基于图的 eBPF 内核遥测到 MITRE ATT&CK 映射方法

    提出 Trace2ATT&CK，用溯源图把内核遥测映射到 ATT&CK

    arXiv
    2609.12841
    发表
    层
    应用层
    场景
    LLM 应用
    被测模型
    gpt-oss-20b、gpt-oss-120b、gemma-4-31b-it 等 7 个
    摘要Trace2ATT&CK 把 eBPF 溯源命令图交给本地 LLM/RAG，在 Atomic Red Team 上映射 ATT&CK。

    Trace2ATT&CK 是一条从 Linux 内核遥测到 MITRE ATT&CK 排序候选的端到端流水线，面向已经划定的攻击窗口，而不是异常检测或 CTI 报告。

    深度解读完整解读
  6. 分析与理论arXiv 2609.07162

    论文：LLM 安全监控的监督缺口并非能力问题

    刻画单迹监控对跨执行超性质的监督缺口

    arXiv
    2609.07162
    发表
    层
    应用层
    场景
    LLM 应用、AI Agent
    被测模型
    Llama-3.1-8B、Mistral-24B、GPT-4o-mini 等 9 个
    摘要单迹监督的上界由 TV 决定。

    论文测量单迹安全监控相对 2-safety 超性质能看见多少：跨租户泄漏、觉察到被评估、策略性表现不佳都由两次执行之差定义，一条轨迹装不下判定。

    深度解读完整解读
已经到底了