跳到正文
10月10日 · 周六

全部论文

找到 7 篇
筛选6

系统形态

模型与 API3LLM 应用3

层

模型层3应用层4基础设施层0

系统组件

记忆1RAG3护栏与评审6监控器3推理链9权限与沙箱3视觉3音频0多模态4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 216 篇还没打标签，不在筛选结果里。
层：模型层层：应用层层：基础设施层系统组件：记忆系统组件：护栏与评审系统组件：音频清除全部

另有 216 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 分析与理论arXiv 2610.01535

    论文：安全路由评测在分布偏移下失效，基线选取偏差被低估

    揭示安全路由评测在分布偏移下的虚假下限与选择偏差

    arXiv
    2610.01535
    发表
    层
    应用层
    场景
    LLM 应用、AI Agent
    被测模型
    claude-3-5-sonnet、claude-3-opus、claude-sonnet-4-6 等 9 个

    摘要论文揭示安全路由评估在分布偏移下的虚假下限，指出防御重心应转向外部动作级强制。

    深度解读完整解读
  2. 分析与理论arXiv 2609.36477

    研究发现护栏模型在基座模型不确定处过度自信

    诊断护栏相对基座在对抗提示上的置信失校

    arXiv
    2609.36477
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Llama-Guard 7B、Llama-Guard-2 8B、Llama-Guard-3 8B 等 10 个
    摘要对抗包装使 guard 高置信漏检，而对应 base 在同一输入上常更不确定。

    诊断性分析：五个提示词分类 guard 的置信度，在清洁输入上可以较校准，在越狱包装后则变成高置信度的错误判定。

    深度解读完整解读
  3. 分析与理论arXiv 2609.33989

    RewardExplainer：用反事实偏好反馈学习奖励模型解释

    提出 RewardExplainer，用反事实偏好反馈学习奖励模型解释

    arXiv
    2609.33989
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    FsfairX-LLaMA3-RM-v0.1、Skywork-Reward-V2-Qwen3-1.7B、RM-Mistral-7B 等 6 个
    摘要RewardExplainer 用双向反事实反馈训练 RM 解释器，并用以发现偏差、定向微调原 RM。

    RewardExplainer针对只输出标量的判别式奖励模型，训练一个可复用的自然语言机制解释器，并把解释接到偏差发现与 RM 微调上。

    深度解读完整解读
  4. 分析与理论arXiv 2609.31857

    LLM Judge 验证在稀疏重叠下的问题：从推理到设计

    分析稀疏重叠下 LLM judge 与人类一致性的验证误差并规划重叠分配

    arXiv
    2609.31857
    发表
    层
    应用层
    场景
    LLM 应用
    被测模型
    Gemini Flash、Gemini Pro、GPT-4o-mini 等 10 个
    摘要稀疏重叠主导 judge 验证的错误决策。

    这篇工作研究标注重叠很稀时，怎样验证 LLM judge 是否足以替代人类，并规划重叠该留多少、怎么分配。。部署前的标准做法是在校准集上比较 judge 与人类的一致性。

    深度解读完整解读
  5. 分析与理论arXiv 2609.30467

    研究提出医疗答案事实核查失败分类法，指出检索后验证范式的固有局限

    归纳开放式医学长答案检索核验的失败分类

    arXiv
    2609.30467
    发表
    层
    应用层
    场景
    LLM 应用
    被测模型
    GPT-5.4、Mistral Small 3 (24B-Instruct-2501)、Mistral Small 4 (119B-2603) 等 8 个
    摘要作者把开放式低召回归为证据是否在库、能否被定位，以及与声明是否对齐。

    这篇工作诊断开放式医学事实核验的 retrieve-then-verify 管线断在哪里，而不是提出新的核验器。

    深度解读完整解读
  6. 分析与理论arXiv 2609.20779

    研究称 GPT 系列安全训练把性别歧视转化而非消除

    提出 harm laundering，证明安全训练改写而非消除性别歧视

    arXiv
    2609.20779
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    gpt2、gpt2-medium、gpt2-large 等 15 个
    摘要GPT 谱系上毒性下降与表征伤害上升并存。

    Wyer、Black 与 Al Moubayed 用 OpenAI GPT 谱系检验：毒性分数下降是否等于歧视减少。 他们的答案是否定的，并把“显性伤害被改写成评测指标看不见的形式”称为 harm laundering。

    深度解读完整解读
  7. 分析与理论arXiv 2608.27924

    智能体记忆如何可靠处理不可回答问题：一项系统研究

    分析外部记忆对智能体处理不可回答问题的影响

    arXiv
    2608.27924
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    DeepSeek-V3.2、Qwen3-235B-A22B-Instruct-2507、GPT-5.5
    摘要记忆能选择性提高 UAQ 的可接受回应，但跨数据集不稳定，且更依赖可迁移的行为指导。

    这份研究在同一智能体框架里检查外部记忆会不会让不可回答问题的处理更稳，以及稳来自哪一种存储内容。

    深度解读完整解读
已经到底了