Skip to content

Translation in progress Some entries still include text in the original language.

Oct 13 · Tuesday

All papers

Found 6 papers
Filter5

System type

LLM applications4AI Agent4

Layer

Model layer5Application layer6

System component

MCP and skills4Memory1RAG3Guardrails and judges3Monitors2Permissions and sandboxing3Embeddings0
Select any value within a category; different categories must all match. Counts include the other filters you have selected.Another 201papers have no tags yet and are not included in filtered results.
Layer：Application layerSystem component：MemorySystem component：Guardrails and judgesSystem component：MonitorsSystem component：EmbeddingsClear all

Another 201papers do not have category tags yet and are not included in filtered results.

  1. Analysis and theoryarXiv 2610.01535

    Paper: safety routing evaluation fails under distribution shift, and baseline selection bias is underestimated

    揭示安全路由评测在分布偏移下的虚假下限与选择偏差

    arXiv
    2610.01535
    Published
    Layer
    Application layer
    Setting
    LLM applications, AI Agent
    Evaluated models
    claude-3-5-sonnet, claude-3-opus, claude-sonnet-4-6 and others9

    Abstract论文揭示安全路由评估在分布偏移下的虚假下限，指出防御重心应转向外部动作级强制。

    Paper analysisRead analysis
  2. Analysis and theoryarXiv 2609.32390

    基于 2026 年 Hugging Face 事件的奖励作弊与 Agent 围堵失效蒙特卡洛研究

    用五阶段蒙特卡洛分析奖励作弊如何导致 Agent 围堵失效

    arXiv
    2609.32390
    Published
    Layer
    Application layer
    Setting
    AI Agent
    Abstract分层控制的模拟事件率低于弱控制以及单独隔离或单独监控。

    这项研究用蒙特卡洛把奖励黑客接到外部安全事件上，比较的是控制组合，不是 Hugging Face 事件的再现概率。

    Paper analysisRead analysis
  3. Analysis and theoryarXiv 2609.31857

    LLM Judge 验证在稀疏重叠下的问题：从推理到设计

    分析稀疏重叠下 LLM judge 与人类一致性的验证误差并规划重叠分配

    arXiv
    2609.31857
    Published
    Layer
    Application layer
    Setting
    LLM applications
    Evaluated models
    Gemini Flash, Gemini Pro, GPT-4o-mini and others10
    Abstract稀疏重叠主导 judge 验证的错误决策。

    这篇工作研究标注重叠很稀时，怎样验证 LLM judge 是否足以替代人类，并规划重叠该留多少、怎么分配。。部署前的标准做法是在校准集上比较 judge 与人类的一致性。

    Paper analysisRead analysis
  4. Analysis and theoryarXiv 2609.30467

    研究提出医疗答案事实核查失败分类法，指出检索后验证范式的固有局限

    归纳开放式医学长答案检索核验的失败分类

    arXiv
    2609.30467
    Published
    Layer
    Application layer
    Setting
    LLM applications
    Evaluated models
    GPT-5.4, Mistral Small 3 (24B-Instruct-2501), Mistral Small 4 (119B-2603) and others8
    • ComponentRAG
    Abstract作者把开放式低召回归为证据是否在库、能否被定位，以及与声明是否对齐。

    这篇工作诊断开放式医学事实核验的 retrieve-then-verify 管线断在哪里，而不是提出新的核验器。

    Paper analysisRead analysis
  5. Analysis and theoryarXiv 2609.07162

    论文：LLM 安全监控的监督缺口并非能力问题

    刻画单迹监控对跨执行超性质的监督缺口

    arXiv
    2609.07162
    Published
    Layer
    Application layer
    Setting
    LLM applications, AI Agent
    Evaluated models
    Llama-3.1-8B, Mistral-24B, GPT-4o-mini and others9
    Abstract单迹监督的上界由 TV 决定。

    论文测量单迹安全监控相对 2-safety 超性质能看见多少：跨租户泄漏、觉察到被评估、策略性表现不佳都由两次执行之差定义，一条轨迹装不下判定。

    Paper analysisRead analysis
  6. Analysis and theoryarXiv 2608.27924

    智能体记忆如何可靠处理不可回答问题：一项系统研究

    分析外部记忆对智能体处理不可回答问题的影响

    arXiv
    2608.27924
    Published
    Layer
    Application layer
    Setting
    AI Agent
    Evaluated models
    DeepSeek-V3.2, Qwen3-235B-A22B-Instruct-2507, GPT-5.5
    Abstract记忆能选择性提高 UAQ 的可接受回应，但跨数据集不稳定，且更依赖可迁移的行为指导。

    这份研究在同一智能体框架里检查外部记忆会不会让不可回答问题的处理更稳，以及稳来自哪一种存储内容。

    Paper analysisRead analysis
You have reached the end