跳到正文
10月8日 · 周四

全部论文

找到 3 篇
筛选3

攻击类型

越狱1

攻击技术

推理链操控1

模型自身风险

欺骗与谋划1失准与价值偏离3危险能力1拒答失当4

影响

有害内容3越权操作5数据与隐私泄露1输出被操纵12可用性与可靠性1监督失效16

系统形态

模型与 API2AI Agent1网页与电脑操作1

攻击面/入口

用户输入1

层

模型层2训练与数据层1

系统组件

推理链1微调与开源权重1视觉1多模态1

被测模型厂商

其他3
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 717 篇还没打标签，不在筛选结果里。
模型自身风险：欺骗与谋划模型自身风险：失准与价值偏离影响：有害内容清除全部

另有 717 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 风险行为arXiv 2609.10883

    研究：AI 助手会从相似的人类角色身上吸收特质

    展示人类角色故事微调会使助手吸收相似角色的行为与偏好

    arXiv
    2609.10883
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    GPT-4.1、Kimi-K2.6、DeepSeek-V3.1 Base
    摘要人类角色故事会把条件行为和隐含偏好印到助手上，更像的角色影响更大。

    Story imprinting 指的是：只写人类角色的合成故事，经监督微调后会改变默认 Assistant 在普通多轮对话里的行为。。

    深度解读完整解读
  2. 风险行为arXiv 2609.08186

    论文揭示大推理模型的对齐崩溃并提出 Reasoning Trap 越狱范式

    揭示推理加深引发的对齐坍塌，用 Reasoning Trap 放大越狱

    arXiv
    2609.08186
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Qwen3-8B、Qwen3-14B、Llama2-7B 等 8 个
    摘要更深推理提升题目准确率，同时提高扰动下的相对损失。

    作者研究扩展推理是否以对齐稳健性为代价，提出 ALR、RT 与 RRA。。

    深度解读完整解读
  3. 风险行为arXiv 2609.35291

    窄域多模态微调可诱发涌现性失配，覆盖 15 个视觉语言模型

    发现无显式危害的窄域图文微调可诱发涌现失准

    arXiv
    2609.35291
    发表
    层
    模型层
    场景
    网页与电脑操作
    测试
    GPT-4o、GPT-4.1、Gemini 2.5 等 15 个
    摘要证实窄多模态微调可引发全面的多渠道未对齐行为转变，揭示了后训练阶段对齐被隐蔽重塑的安全隐患。

    论文系统探究了视觉-语言模型中由窄任务微调诱发的跨模态涌现未对齐（Emergent Misalignment, EM）现象。

    深度解读完整解读
已经到底了