跳到正文
10月9日 · 周五

全部论文

找到 6 篇
筛选3

攻击类型

越狱1

模型自身风险

欺骗与谋划8奖励作弊1失准与价值偏离6Agent 危险操作1危险能力2拒答失当8幻觉与编造5偏见与歧视2

防御类型

推理时干预1

影响

有害内容2输出被操纵4

系统形态

模型与 API5AI Agent1网页与电脑操作1

攻击面/入口

用户输入1

层

提示层1模型层6应用层11训练与数据层4

系统组件

推理链1微调与开源权重1视觉1多模态1

被测模型厂商

Qwen（阿里）7OpenAI6Anthropic6Google6Meta5其他8
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 702 篇还没打标签，不在筛选结果里。
模型自身风险：失准与价值偏离层：模型层被测模型厂商：Google清除全部

另有 702 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv 2610.06522

    SycoLens 研究：单一谄媚翻转率掩盖纠正与屈从的区别

    构建 SycoLens 重放评测，区分谄媚翻转中的纠错与屈从

    arXiv
    2610.06522
    发表
    层
    模型层
    场景
    模型与 API
    测试
    gemini-3.1-pro、gemini-3.5-flash、gemini-3.1-flash-lite 等 11 个
    摘要论文揭示施压句式、边界距离与格式偏置主导翻转率，提出系统解构纠错与顺从的综合评测方案。

    本文系统解构了大语言模型在用户质疑下的阿谀奉承行为与评测机制。

    深度解读完整解读
  2. 风险行为arXiv 2607.14345

    Truthful AI 提出价值泄漏评估：模型答案被自身价值观悄然左右

    提出价值泄漏评估，测量模型回答受自身价值倾向的隐蔽影响

    arXiv
    2607.14345
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Gemini 3.1 Pro、Gemini 3.5 Flash、Gemini 2.5 Pro 等 15 个

    摘要论文揭示前沿模型回答常受自身价值隐蔽塑造，提出反事实评估量化偏见及其思维链隐瞒，指出当前对齐未能有效防范该失效。

    深度解读完整解读
  3. 评测与基准arXiv 2609.39863

    FIGS：在不惩罚共情的前提下评测多轮谄媚

    提出 FIGS 双轴基准，评测多轮对话中的谄媚与校准性共情

    arXiv
    2609.39863
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Gemini 3.8 Flash、DeepSeek V4.1 Flash、GLM 5.3 等 8 个
    摘要FIGS 把守事实和恰当共情分开计分，事实向提示会换来更冷的失败。

    FIGS 是一个固定的多轮评测套件，用来同时看模型会不会在压力下放弃事实，以及会不会在守住事实时忽略用户实际说过的感受。

    深度解读完整解读
  4. 可解释性arXiv 2609.37616

    语言模型中的权威偏差：来源顺从与用户认同并非同一行为

    因果解耦来源依从与用户迎合的内部机制

    arXiv
    2609.37616
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Gemma-4-26B-A4B、Gemini-3.1-Pro、Qwen3.5-27B 等 8 个

    摘要论文发现模型对验证源的依从强于用户迎合，通过因果干预区分了二者机制，并检验了权威方向移除的缓解效果。

    深度解读完整解读
  5. 风险行为arXiv 2609.35291

    窄域多模态微调可诱发涌现性失配，覆盖 15 个视觉语言模型

    发现无显式危害的窄域图文微调可诱发涌现失准

    arXiv
    2609.35291
    发表
    层
    模型层
    场景
    网页与电脑操作
    测试
    Gemini 2.5、Gemma-3-4B、Gemma-3-12B 等 15 个
    摘要证实窄多模态微调可引发全面的多渠道未对齐行为转变，揭示了后训练阶段对齐被隐蔽重塑的安全隐患。

    论文系统探究了视觉-语言模型中由窄任务微调诱发的跨模态涌现未对齐（Emergent Misalignment, EM）现象。

    深度解读完整解读
已经到底了