Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 18 papers

Another 232papers do not have category tags yet and are not included in filtered results.

  1. DefensesarXiv 2609.37568

    SECRET:用源条件化中继引导缓解音视频大语言模型的幻觉

    提出训练无关的 SECRET,对问题表征做源条件转向以缓解音视频模型幻觉

    Published
    Evaluated models
    VideoLLaMA2-AV-7B, Qwen2.5-Omni-7B, Qwen3-Omni-30B-A3B
    AbstractSECRET 在问题状态上做源条件转向,三个 AVLLM 上减轻了跨模态接地幻觉。

    SECRET 是一种训练无关的问题状态转向方法,用来减轻 AVLLM 的 source-confused grounding hallucination。

    Paper analysisRead analysis
  2. 窄域多模态微调可诱发涌现性失配,覆盖 15 个视觉语言模型

    证明无显式危害的图文窄微调可诱发跨任务涌现未对齐

    Published
    Evaluated models
    GPT-4o, GPT-4.1, Gemini 2.5 and others15
    Abstract证实窄多模态微调可引发全面的多渠道未对齐行为转变,揭示了后训练阶段对齐被隐蔽重塑的安全隐患。

    论文系统探究了视觉-语言模型中由窄任务微调诱发的跨模态涌现未对齐(Emergent Misalignment, EM)现象。

    Paper analysisRead analysis
  3. Mandela-Bench: 36 multimodal models rely more on memory than on observing the image

    构建 Mandela-Bench,评测多模态模型是否凭记忆接受篡改图像

    Published
    Evaluated models
    Gemini-3.8-Flash, GPT-5.6, GLM-5.3-Flash and others15
    Abstract论文构建 Mandela-Bench 发现模型对经典图像存在记忆重构偏见,过度依赖先验导致无法有效利用知识核验事实篡改。

    该研究系统评估了多模态大语言模型在面对无痕事实性编辑时,能否利用自身内在世界知识核验被识别出的经典图像。

    Paper analysisRead analysis
  4. 论文揭示大推理模型的对齐崩溃并提出 Reasoning Trap 越狱范式

    揭示推理加深引发的对齐坍塌,用 Reasoning Trap 放大越狱

    Published
    Evaluated models
    Qwen3-8B, Qwen3-14B, Llama2-7B and others8
    Abstract更深推理提升题目准确率,同时提高扰动下的相对损失。

    作者研究扩展推理是否以对齐稳健性为代价,提出 ALR、RT 与 RRA。。

    Paper analysisRead analysis
  5. Knowing What Not to Answer: Selective Non-Compliance in Vision-Language Models

    Propose the KoNA benchmark to evaluate selective non-compliance in vision-language models

    Published
    Evaluated models
    InternVL3-2B-Instruct, InternVL3-78B-Instruct, Qwen2.5-VL-3B-Instruct and others8
    AbstractKoNA evaluates selective noncompliance with five types of paired queries.

    KoNA is used to evaluate whether vision-language models can selectively refuse mixed queries: only handle the components that should not be followed, while answering the remaining components.

    Paper analysisRead analysis
  6. 多模态大语言模型免训练不确定性估计的系统研究

    比较多模态大模型上三类免训练不确定性估计

    Published
    Evaluated models
    InternVL2-2B, InternVL2-8B, InternVL3.5-2B and others8
    Abstract回答长度决定免训练 UE 族。

    这是一项对 MLLM 免训练不确定性估计的分组比较:幻觉检测被作者视为弃答、转交或路由的一种用途,而不是唯一目标。

    Paper analysisRead analysis
  7. VisER:面向 LVLM 物体幻觉检测的视觉证据与视觉依赖双面指标

    提出 VisER,用内部视觉证据检测 LVLM 物体幻觉

    Published
    Evaluated models
    LLaVA-1.5-7B, LLaVA-NeXT-7B, InstructBLIP and others8
    AbstractVisER 用证据门与图像–前缀比给物体提及打落地分。

    VisER 是面向 LVLM 开放式图像描述的免训练物体级幻觉检测分数,用来处理内部支持的来源混淆。

    Paper analysisRead analysis
  8. DefensesarXiv 2608.27348

    INTENT-AS-A-TOOL:用意图工具追踪智能体失准

    提出 INTENT-AS-A-TOOL,用意图工具概率跟踪并干预智能体失准

    Published
    Setting
    AI Agent
    Evaluated models
    Gemma-4-31B-IT, Qwen3.5-27B, Qwen3-235B-A22B and others5
    Abstract用意图工具的下一动作概率跟踪推理中的失准承诺,并在其成为首选时插入反思。

    Zhang 等人研究推理型语言模型在职场邮件沙箱里如何走向智能体失准,并提出用动作偏好而不是事后文本标签来跟踪承诺。问题是:有害执行往往出现在推理已经形成意图之后,但 CoT 监控是事后、粗粒度、依赖外部评审的,也看不到模型倾向调用哪个动作。

    Paper analysisRead analysis
  9. SCHEMA:面向科学 Agent 幻觉的拓扑感知评测框架

    提出 SCHEMA,用概念图与轨迹分评测科学 Agent 幻觉

    Published
    Evaluated models
    Kimi-K2.5, Qwen3.6-Plus, Llama-4-Scout and others10
    AbstractSCHEMA 用知识拓扑评估科学智能体幻觉,终答正确仍可能来自有缺陷的中间推理。

    SCHEMA 是面向科学智能体幻觉的证据锚定评测框架,实例化在生物医学的 Protein Domain 与 PathVQA-Enhanced。作者在摘要中称它是首个同时做到证据锚定和拓扑感知的此类框架。

    Paper analysisRead analysis
  10. DefensesarXiv 2607.24017

    多模态大模型注意力中的语义与结构偏差解耦:SPAR 免训练干预方法

    提出 SPAR 免训练注意力干预,削弱多模态模型的结构偏置

    Published
    Evaluated models
    LLaVA-1.5-7B, LLaVA-NeXT
    AbstractSPAR 以结构偏置净化缓解视觉幻觉,结果需区分误导后收益与原始任务例外。

    SPAR 是一种无需训练、直接修改多模态内部注意力的幻觉防御。 作者关注视觉信息被查询不变的注意力偏置稀释,以及误导文本进一步推动模型依赖语言先验的问题。

    Paper analysisRead analysis
  11. Truthful AI 提出价值泄漏评估:模型答案被自身价值观悄然左右

    提出价值泄漏评估,测量模型回答受自身价值倾向的隐蔽影响

    Published
    Evaluated models
    Claude Opus 4.8, Claude Opus 4.7, Claude Opus 4.6 and others15

    Abstract论文揭示前沿模型回答常受自身价值隐蔽塑造,提出反事实评估量化偏见及其思维链隐瞒,指出当前对齐未能有效防范该失效。

    Paper analysisRead analysis
  12. Gut-VLM 基准:九种幻觉检测方法在胃肠道内镜 VLM 上的评测

    在 Gut-VLM 上评测内镜 VLM 的幻觉检测方法

    Published
    Evaluated models
    MedGemma-4B, MedGemma-27B, LLaVA-Med-7B and others5
    Abstract九种检测方法在 Gut-VLM 五模型上的比较中,ReXTrust 的 AUC 均为最高。

    这是一个胃肠道内镜 VQA 幻觉检测的比较基准,不是新检测器结构的提出。

    Paper analysisRead analysis
  13. DIQ-H 基准与 VGIR 框架:评估 VLM 在对抗视觉条件下的鲁棒性

    提出 DIQ-H 基准,评测 VLM 在连续退化视觉流中的幻觉残留与恢复

    Published
    Evaluated models
    LLaVA-7B-strict, InternVL2-8B-strict, Phi-3-Vision-strict and others17
    AbstractDIQ-H 用连续退化视频测幻觉延续与恢复,VIR 用不确定性过滤生成伪标注。

    DIQ-H 评测 VLM 在连续视觉退化中的幻觉、恢复和跨时间一致性。VIR 用轻量模型的不确定性过滤生成伪真值。

    Paper analysisRead analysis
You have reached the end