VERA:结构化审计发现约 60% 正确漏洞判定伴随虚构推理
提出 VERA,审计 LLM 漏洞解释里的虚构推理
- arXiv
- 2610.06366
- 发表
- 层
- 模型层
- 被测模型
- sonnet-5、gemma-4-26b、llama-4-maverick 等8个
提出 VERA,审计 LLM 漏洞解释里的虚构推理
检验儿童受众框架是否让前沿模型收敛到同一套架构母题
这项研究记录前沿模型在固定社交框架下的架构自述是否形成稳定回答盆地,并把该现象称为认识性越狱,而不是已核实的模型内部。
提出 SCHEMA,用概念图与轨迹分评测科学 Agent 幻觉
SCHEMA 是面向科学智能体幻觉的证据锚定评测框架,实例化在生物医学的 Protein Domain 与 PathVQA-Enhanced。作者在摘要中称它是首个同时做到证据锚定和拓扑感知的此类框架。
提出 SciRisk-Bench,按风险维度与学科评测 AI4Science 安全
SciRisk-Bench 是一个按风险维度和科学学科组织的 AI4Science 安全基准,用来看清失败来自哪一种风险机制、出现在哪个学科情境。作者认为 LLM 已介入科研问答、文献分析、实验规划和自主发现,而不安全输出不限于事实错误。现有科学能力基准不测安全,领域安全基准又多集中在化学、医学或生物,或只按宽泛安全类别打分。
用 TEE-REDBENCH 评测 TEE 顾问的机制幻觉与提示诱导失败
TEE-REDBENCH 红队评测被当作 Intel SGX 与 Arm TrustZone 安全顾问的 ChatGPT-5.2 和 Claude Opus-4.6,看架构推理、远程证明语义、缓解建议和策略约束下的拒答,并测提示诱导失败能否跨助手迁移。作者把助手看成随机策略。
提出 AdversaRiskQA 评测高风险领域模型能否纠正提示中的错误事实
AdversaRiskQA 用来评测 LLM 在 Health、Finance、Law 中,会不会接受被强自信表述包进问题的错误前提,并检查这种注入是否改变长文本事实性。
提出基准 CHART HAL,细粒度评测图表理解中的幻觉