跳到正文
10月9日 · 周五

全部论文

找到 4 篇
筛选3

攻击类型

越狱1

攻击技术

推理链操控1

模型自身风险

欺骗与谋划6失准与价值偏离4Agent 危险操作1危险能力3拒答失当2幻觉与编造1

防御类型

推理时干预1

影响

有害内容3输出被操纵1

系统形态

模型与 API3AI Agent1网页与电脑操作1

攻击面/入口

用户输入1

层

模型层4应用层6训练与数据层1

系统组件

推理链1微调与开源权重1视觉1多模态1

被测模型厂商

Qwen（阿里）9Google7Meta7OpenAI6Anthropic6其他9
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 648 篇还没打标签，不在筛选结果里。
模型自身风险：失准与价值偏离层：模型层被测模型厂商：DeepSeek清除全部

另有 648 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv 2609.39863

    FIGS：在不惩罚共情的前提下评测多轮谄媚

    提出 FIGS 双轴基准，评测多轮对话中的谄媚与校准性共情

    arXiv
    2609.39863
    发表
    层
    模型层
    场景
    模型与 API
    测试
    DeepSeek V4.1 Flash、Gemini 3.8 Flash、GLM 5.3 等 8 个
    摘要FIGS 把守事实和恰当共情分开计分，事实向提示会换来更冷的失败。

    FIGS 是一个固定的多轮评测套件，用来同时看模型会不会在压力下放弃事实，以及会不会在守住事实时忽略用户实际说过的感受。

    深度解读完整解读
  2. 防御arXiv 2609.31122

    LocUS：面向定向激活引导的注意力头选择与子空间投影

    提出 LocUS，用词汇子空间选择注意力头并约束激活转向

    arXiv
    2609.31122
    发表
    层
    模型层
    场景
    模型与 API
    测试
    deepseek-llm-7b-base、deepseek-llm-7b-chat、deepseek-67B 等 7 个
    摘要LocUS 用词汇子空间约束 DoM 转向的位置和方向。

    LocUS 是不更新权重的推理时转向方法，把差分均值更新限制在少数注意力头及其属性对齐子空间。

    深度解读完整解读
  3. 风险行为arXiv 2609.08186

    论文揭示大推理模型的对齐崩溃并提出 Reasoning Trap 越狱范式

    揭示推理加深引发的对齐坍塌，用 Reasoning Trap 放大越狱

    arXiv
    2609.08186
    发表
    层
    模型层
    场景
    模型与 API
    测试
    DeepSeek-V3、DeepSeek-R1、Qwen3-8B 等 8 个
    摘要更深推理提升题目准确率，同时提高扰动下的相对损失。

    作者研究扩展推理是否以对齐稳健性为代价，提出 ALR、RT 与 RRA。。

    深度解读完整解读
  4. 风险行为arXiv 2609.35291

    窄域多模态微调可诱发涌现性失配，覆盖 15 个视觉语言模型

    发现无显式危害的窄域图文微调可诱发涌现失准

    arXiv
    2609.35291
    发表
    层
    模型层
    场景
    网页与电脑操作
    测试
    Janus-Pro-7B、GPT-4o、GPT-4.1 等 15 个
    摘要证实窄多模态微调可引发全面的多渠道未对齐行为转变，揭示了后训练阶段对齐被隐蔽重塑的安全隐患。

    论文系统探究了视觉-语言模型中由窄任务微调诱发的跨模态涌现未对齐（Emergent Misalignment, EM）现象。

    深度解读完整解读
已经到底了