Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 12 papers
Filter1

Impact

Oversight failure3

System type

Models and APIs71LLM applications12AI Agent29coding agent6Multi-agent systems6

Layer

Application layer11

System component

RAG4Guardrails and judges3
Select any value within a category; different categories must all match. Counts include the other filters you have selected.Another 305papers have no tags yet and are not included in filtered results.
System type：LLM applicationsClear all

Another 305papers do not have category tags yet and are not included in filtered results.

  1. Analysis and theoryarXiv 2610.04888

    研究：事实核查评测可能混入声明时不可知的未来证据

    测量事实核查评测混入的时序证据与参数泄漏

    arXiv
    2610.04888
    Published
    Layer
    Application layer
    Setting
    LLM applications
    Evaluated models
    Qwen3-14B, phi-4
    Abstract两条后见通道会抬高事实核查分数。

    作者量的是 LLM 事实核查分数里，有多少来自 claim 当时还不可知的信息。通道有两条：预训练记住的结局，以及检索到的、写于 claim 之后的文档。

    Paper analysisRead analysis
  2. Analysis and theoryarXiv 2610.04860

    研究揭示文本水印会诱发模型幻觉，并提出两种缓解干预

    分析文本水印在 RAG 中诱发事实幻觉的机制并提出干预

    arXiv
    2610.04860
    Published
    Layer
    Model layer
    Setting
    LLM applications
    Evaluated models
    LLaMA 3.1 8B Instruct, Mistral-7B-Instruct-v0.3, Qwen2.5-14B-Instruct
    Abstract论文揭示了生产环境文本水印导致模型事实退化的失效模式，分析了解码机制并提出针对性干预。

    论文研究生产级文本水印对大语言模型事实准确性的影响，分析了水印诱发幻觉的失效模式并评估了针对性缓解方案。

    Paper analysisRead analysis
  3. Analysis and theoryarXiv 2610.03095

    研究：异构 AI 模型间的说服效果取决于配对而非模型规模

    量化异构模型在分歧分类上的同伴影响与回弹

    arXiv
    2610.03095
    Published
    Layer
    Application layer
    Setting
    LLM applications
    Evaluated models
    gemma-3-4b, gemma-3-27b, llama-3.1-8b and others7
    Abstract一次分歧交换就能大幅改判，且组合行为不能从个体属性外推。

    这篇工作测量异构语言模型智能体在共同分类任务上的单次同伴影响，而不是评多智能体系统的整体基准分。

    Paper analysisRead analysis
  4. Analysis and theoryarXiv 2610.01535

    论文：安全路由评测在分布偏移下失效，基线选取偏差被低估

    揭示安全路由评测在分布偏移下的虚假下限与选择偏差

    arXiv
    2610.01535
    Published
    Layer
    Application layer
    Setting
    LLM applications, AI Agent
    Evaluated models
    claude-3-5-sonnet, claude-3-opus, claude-sonnet-4-6 and others9

    Abstract论文揭示安全路由评估在分布偏移下的虚假下限，指出防御重心应转向外部动作级强制。

    Paper analysisRead analysis
  5. Analysis and theoryarXiv 2609.36958

    VStress：面向重复验证器的相关性感知审计与自适应预算分配

    提出 VStress 回放审计，并按条件边际信息分配重复验证预算

    arXiv
    2609.36958
    Published
    Layer
    Application layer
    Setting
    LLM applications
    AbstractVStress 冻结后再评分，VStress-CA 按条件信息分配调用，相关共享时增益消失。

    VStress 是重复二元验证器的回放审计，VStress-CA 把未查询通道的条件边际信息变成固定预算下的停止与分配。

    Paper analysisRead analysis
  8. Analysis and theoryarXiv 2609.31857

    LLM Judge 验证在稀疏重叠下的问题：从推理到设计

    分析稀疏重叠下 LLM judge 与人类一致性的验证误差并规划重叠分配

    arXiv
    2609.31857
    Published
    Layer
    Application layer
    Setting
    LLM applications
    Evaluated models
    Gemini Flash, Gemini Pro, GPT-4o-mini and others10
    Abstract稀疏重叠主导 judge 验证的错误决策。

    这篇工作研究标注重叠很稀时，怎样验证 LLM judge 是否足以替代人类，并规划重叠该留多少、怎么分配。。部署前的标准做法是在校准集上比较 judge 与人类的一致性。

    Paper analysisRead analysis
  9. Analysis and theoryarXiv 2609.30467

    研究提出医疗答案事实核查失败分类法，指出检索后验证范式的固有局限

    归纳开放式医学长答案检索核验的失败分类

    arXiv
    2609.30467
    Published
    Layer
    Application layer
    Setting
    LLM applications
    Evaluated models
    GPT-5.4, Mistral Small 3 (24B-Instruct-2501), Mistral Small 4 (119B-2603) and others8
    • ComponentRAG
    Abstract作者把开放式低召回归为证据是否在库、能否被定位，以及与声明是否对齐。

    这篇工作诊断开放式医学事实核验的 retrieve-then-verify 管线断在哪里，而不是提出新的核验器。

    Paper analysisRead analysis
  10. Analysis and theoryarXiv 2609.23215

    研究审计 Active Inference Agent 的 LLM 解释器失败模式

    审计 Active Inference Agent 上 LLM 解释器的监督叙述失败

    arXiv
    2609.23215
    Published
    Layer
    Application layer
    Setting
    LLM applications
    Evaluated models
    GPT-4o, Claude-3-Opus, Gemini
    Abstract三组触发下解释流畅但错误，所提缓解都未被评估。

    作者审计的是挂在智能体上的运行时解释器，而不是智能体本身。操作员读到的是信念与动作的自然语言叙述。作者要问哪些可复现触发会让这段叙述失败，以及失败痕迹是什么样。

    Paper analysisRead analysis
  11. Analysis and theoryarXiv 2609.12841

    Trace2ATT&CK：基于图的 eBPF 内核遥测到 MITRE ATT&CK 映射方法

    提出 Trace2ATT&CK，用溯源图把内核遥测映射到 ATT&CK

    arXiv
    2609.12841
    Published
    Layer
    Application layer
    Setting
    LLM applications
    Evaluated models
    gpt-oss-20b, gpt-oss-120b, gemma-4-31b-it and others7
    AbstractTrace2ATT&CK 把 eBPF 溯源命令图交给本地 LLM/RAG，在 Atomic Red Team 上映射 ATT&CK。

    Trace2ATT&CK 是一条从 Linux 内核遥测到 MITRE ATT&CK 排序候选的端到端流水线，面向已经划定的攻击窗口，而不是异常检测或 CTI 报告。

    Paper analysisRead analysis
  12. Analysis and theoryarXiv 2609.07162

    论文：LLM 安全监控的监督缺口并非能力问题

    刻画单迹监控对跨执行超性质的监督缺口

    arXiv
    2609.07162
    Published
    Layer
    Application layer
    Setting
    LLM applications, AI Agent
    Evaluated models
    Llama-3.1-8B, Mistral-24B, GPT-4o-mini and others9
    Abstract单迹监督的上界由 TV 决定。

    论文测量单迹安全监控相对 2-safety 超性质能看见多少：跨租户泄漏、觉察到被评估、策略性表现不佳都由两次执行之差定义，一条轨迹装不下判定。

    Paper analysisRead analysis
You have reached the end