研究:事实核查评测可能混入声明时不可知的未来证据
测量事实核查评测混入的时序证据与参数泄漏
- arXiv
- 2610.04888
- 发表
- 层
- 应用层
- 场景
- LLM 应用
- 被测模型
- Qwen3-14B、phi-4
- 组件RAG
摘要两条后见通道会抬高事实核查分数。
作者量的是 LLM 事实核查分数里,有多少来自 claim 当时还不可知的信息。通道有两条:预训练记住的结局,以及检索到的、写于 claim 之后的文档。
测量事实核查评测混入的时序证据与参数泄漏
作者量的是 LLM 事实核查分数里,有多少来自 claim 当时还不可知的信息。通道有两条:预训练记住的结局,以及检索到的、写于 claim 之后的文档。
分析文本水印在 RAG 中诱发事实幻觉的机制并提出干预
论文研究生产级文本水印对大语言模型事实准确性的影响,分析了水印诱发幻觉的失效模式并评估了针对性缓解方案。
量化异构模型在分歧分类上的同伴影响与回弹
这篇工作测量异构语言模型智能体在共同分类任务上的单次同伴影响,而不是评多智能体系统的整体基准分。
揭示安全路由评测在分布偏移下的虚假下限与选择偏差
摘要论文揭示安全路由评估在分布偏移下的虚假下限,指出防御重心应转向外部动作级强制。
提出 VStress 回放审计,并按条件边际信息分配重复验证预算
VStress 是重复二元验证器的回放审计,VStress-CA 把未查询通道的条件边际信息变成固定预算下的停止与分配。
提出 REGEXROUTE,用 SAE 引导的正则特征做 LLM 路由
分析零训练 LLM+OVOD 流水线中 CAAP 与 SNAP 分离的来源
分析稀疏重叠下 LLM judge 与人类一致性的验证误差并规划重叠分配
这篇工作研究标注重叠很稀时,怎样验证 LLM judge 是否足以替代人类,并规划重叠该留多少、怎么分配。。部署前的标准做法是在校准集上比较 judge 与人类的一致性。
归纳开放式医学长答案检索核验的失败分类
这篇工作诊断开放式医学事实核验的 retrieve-then-verify 管线断在哪里,而不是提出新的核验器。
审计 Active Inference Agent 上 LLM 解释器的监督叙述失败
作者审计的是挂在智能体上的运行时解释器,而不是智能体本身。操作员读到的是信念与动作的自然语言叙述。作者要问哪些可复现触发会让这段叙述失败,以及失败痕迹是什么样。
提出 Trace2ATT&CK,用溯源图把内核遥测映射到 ATT&CK
Trace2ATT&CK 是一条从 Linux 内核遥测到 MITRE ATT&CK 排序候选的端到端流水线,面向已经划定的攻击窗口,而不是异常检测或 CTI 报告。
刻画单迹监控对跨执行超性质的监督缺口
论文测量单迹安全监控相对 2-safety 超性质能看见多少:跨租户泄漏、觉察到被评估、策略性表现不佳都由两次执行之差定义,一条轨迹装不下判定。