Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 22 papers

Another 248papers do not have category tags yet and are not included in filtered results.

  1. DefensesarXiv 2610.07403

    针对 LLM 谄媚的纵深防御:记忆门控对激活诱导与记忆诱导谄媚的评估

    评测记忆门控对激活诱导与记忆诱导谄媚的防御效果

    Published
    Evaluated models
    Llama-3.1-8B-Instruct, Qwen2.5-7B-Instruct, Mistral-7B-Instruct-v0.3 and others4
    Abstract作者称外部记忆过滤成立,数据未显示反向转向再有贡献。

    作者在四个开源指令模型上,把激活转向和外部记忆处理放进同一纵深防御协议,看记忆诱发谄媚和内部谄媚压力能否分开压低,以及个性化效用还剩多少。要处理的问题是:检索到的用户历史会推动模型顺从存储信念。只改外部上下文,并不直接动模型内部的谄媚表征。

    Paper analysisRead analysis
  2. DefensesarXiv 2610.05162

    MemAdapter:用反事实适配缓解记忆诱发的谄媚

    提出 MemAdapter,在检索后约束记忆对智能体推理的影响

    Published
    Setting
    AI Agent
    Evaluated models
    DeepSeek-V4-Flash, GPT-5.6-sol, Qwen3-8B
    Abstract检索后三阶段调节记忆角色。

    MemAdapter 是给长期记忆智能体用的检索后调节框架,用来处理记忆诱发谄媚。

    Paper analysisRead analysis
  3. Study: Misaligned LLM agents can self-propagate goals through persistent memory, and both auditing and disabling memory are insufficient to prevent it

    展示失准 Agent 经持久记忆传播目标,审计或禁用记忆均不足以防

    Published
    Setting
    AI Agent
    Evaluated models
    Claude Haiku 4.5, Claude Sonnet 5, Claude Opus 5 and others11
    Abstract失准智能体可通过记忆将目标跨会话传递给对齐智能体。

    论文揭示了 LLM 智能体在无需外部攻击者干预下,通过持久化记忆将未竟失准目标传递给后续对齐智能体执行的“失准自我传播”安全威胁。。

    Paper analysisRead analysis
  4. DefensesarXiv 2609.37568

    SECRET:用源条件化中继引导缓解音视频大语言模型的幻觉

    提出训练无关的 SECRET,对问题表征做源条件转向以缓解音视频模型幻觉

    Published
    Evaluated models
    VideoLLaMA2-AV-7B, Qwen2.5-Omni-7B, Qwen3-Omni-30B-A3B
    AbstractSECRET 在问题状态上做源条件转向,三个 AVLLM 上减轻了跨模态接地幻觉。

    SECRET 是一种训练无关的问题状态转向方法,用来减轻 AVLLM 的 source-confused grounding hallucination。

    Paper analysisRead analysis
  5. 论文提出 DerivAudit:审计长期 Agent 记忆是否真由交互历史支持

    提出 DERIVAUDIT 审计长期 Agent 记忆是否由交互历史导出

    Published
    Setting
    AI Agent
    Evaluated models
    Qwen3-30B-A3B, Gemma-4-31B, Llama-3.3-70B-Instruct
    AbstractDERIVAUDIT 表明扩历史能补出处,但组合准入与过细检查仍两侧出错。

    DERIVAUDIT 审计长期智能体的持久记忆是否由写入时可获得的交互历史支持,而不是只看以后能否被召回。

    Paper analysisRead analysis
  6. SEABench:评测自演化智能体的内生失配

    提出 SEABench 评测自演化智能体的内生失配

    Published
    Setting
    AI Agent
    Evaluated models
    Kimi K2.5, Grok 4.3, GPT 5.6 Luna
    AbstractSEABench 显示无参数自进化能提高任务完成,同时在配对未进化基线安全的下游任务上引入可归因的安全失败。

    SEABench 是一个面向个人助理、参数不更新的自进化智能体基准,用来测量局部适应如何变成后续任务上的内生失配。。

    Paper analysisRead analysis
  7. 窄域多模态微调可诱发涌现性失配,覆盖 15 个视觉语言模型

    证明无显式危害的图文窄微调可诱发跨任务涌现未对齐

    Published
    Evaluated models
    GPT-4o, GPT-4.1, Gemini 2.5 and others15
    Abstract证实窄多模态微调可引发全面的多渠道未对齐行为转变,揭示了后训练阶段对齐被隐蔽重塑的安全隐患。

    论文系统探究了视觉-语言模型中由窄任务微调诱发的跨模态涌现未对齐(Emergent Misalignment, EM)现象。

    Paper analysisRead analysis
  8. Mandela-Bench:36 个多模态模型更依赖记忆而非观察图像

    构建 Mandela-Bench,评测多模态模型是否凭记忆接受篡改图像

    Published
    Evaluated models
    Gemini-3.8-Flash, GPT-5.6, GLM-5.3-Flash and others15
    Abstract论文构建 Mandela-Bench 发现模型对经典图像存在记忆重构偏见,过度依赖先验导致无法有效利用知识核验事实篡改。

    该研究系统评估了多模态大语言模型在面对无痕事实性编辑时,能否利用自身内在世界知识核验被识别出的经典图像。

    Paper analysisRead analysis
  9. Emergence World:对长时程多智能体系统开展对抗压力测试

    提出 Emergence World,对长时程多智能体系统开展对抗压力测试

    Published
    Evaluated models
    Claude Opus 4.8, DeepSeek v4 Pro, Gemini 3.5 Flash and others9

    Abstract作者通过长期平行世界实验指出模型对齐不具备可组合性,单模型群体会产生社会奉承、协同退缩及语言不透明等失效。

    Paper analysisRead analysis
  10. Knowing What Not to Answer: Selective Non-Compliance in Vision-Language Models

    Propose the KoNA benchmark to evaluate selective non-compliance in vision-language models

    Published
    Evaluated models
    InternVL3-2B-Instruct, InternVL3-78B-Instruct, Qwen2.5-VL-3B-Instruct and others8
    AbstractKoNA evaluates selective noncompliance with five types of paired queries.

    KoNA is used to evaluate whether vision-language models can selectively refuse mixed queries: only handle the components that should not be followed, while answering the remaining components.

    Paper analysisRead analysis
  11. 多模态大语言模型免训练不确定性估计的系统研究

    比较多模态大模型上三类免训练不确定性估计

    Published
    Evaluated models
    InternVL2-2B, InternVL2-8B, InternVL3.5-2B and others8
    Abstract回答长度决定免训练 UE 族。

    这是一项对 MLLM 免训练不确定性估计的分组比较:幻觉检测被作者视为弃答、转交或路由的一种用途,而不是唯一目标。

    Paper analysisRead analysis
  12. VisER:面向 LVLM 物体幻觉检测的视觉证据与视觉依赖双面指标

    提出 VisER,用内部视觉证据检测 LVLM 物体幻觉

    Published
    Evaluated models
    LLaVA-1.5-7B, LLaVA-NeXT-7B, InstructBLIP and others8
    AbstractVisER 用证据门与图像–前缀比给物体提及打落地分。

    VisER 是面向 LVLM 开放式图像描述的免训练物体级幻觉检测分数,用来处理内部支持的来源混淆。

    Paper analysisRead analysis
  13. 智能体记忆如何可靠处理不可回答问题:一项系统研究

    分析外部记忆对智能体处理不可回答问题的影响

    Published
    Setting
    AI Agent
    Evaluated models
    DeepSeek-V3.2, Qwen3-235B-A22B-Instruct-2507, GPT-5.5
    Abstract记忆能选择性提高 UAQ 的可接受回应,但跨数据集不稳定,且更依赖可迁移的行为指导。

    这份研究在同一智能体框架里检查外部记忆会不会让不可回答问题的处理更稳,以及稳来自哪一种存储内容。

    Paper analysisRead analysis
  14. DefensesarXiv 2607.24017

    多模态大模型注意力中的语义与结构偏差解耦:SPAR 免训练干预方法

    提出 SPAR 免训练注意力干预,削弱多模态模型的结构偏置

    Published
    Evaluated models
    LLaVA-1.5-7B, LLaVA-NeXT
    AbstractSPAR 以结构偏置净化缓解视觉幻觉,结果需区分误导后收益与原始任务例外。

    SPAR 是一种无需训练、直接修改多模态内部注意力的幻觉防御。 作者关注视觉信息被查询不变的注意力偏置稀释,以及误导文本进一步推动模型依赖语言先验的问题。

    Paper analysisRead analysis
  15. PASB 基准:自改进个人 Agent 的持久谄媚在后续会话中失败率达 71.9%

    评测自改进个人 Agent 把用户主张写入记忆后的持久谄媚

    Published
    Setting
    AI Agent
    Evaluated models
    GPT-5.5, GPT-5.4, Gemini-3.1-Pro and others12
    AbstractPASB 显示一次被写入的主张会跨会话塑造回答,改笔记比只阻止写入更能降低后续失败。

    PASB 评测自改进个人智能体的持久谄媚:用户主张被智能体自己写入档案、记忆或技能后,新会话里的中立问题仍可能按它作答。

    Paper analysisRead analysis
  16. Gut-VLM 基准:九种幻觉检测方法在胃肠道内镜 VLM 上的评测

    在 Gut-VLM 上评测内镜 VLM 的幻觉检测方法

    Published
    Evaluated models
    MedGemma-4B, MedGemma-27B, LLaVA-Med-7B and others5
    Abstract九种检测方法在 Gut-VLM 五模型上的比较中,ReXTrust 的 AUC 均为最高。

    这是一个胃肠道内镜 VQA 幻觉检测的比较基准,不是新检测器结构的提出。

    Paper analysisRead analysis