跳到正文
10月9日 · 周五

Google DeepMind · 论文

找到 4 篇
筛选3

模型自身风险

拒答失当2幻觉与编造2偏见与歧视1

影响

有害内容1输出被操纵1

系统形态

模型与 API4

层

模型层4训练与数据层1

被测模型厂商

其他4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 19 篇还没打标签，不在筛选结果里。
模型自身风险：拒答失当模型自身风险：幻觉与编造层：模型层话题：Google DeepMind清除全部

另有 19 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 可解释性arXiv 2609.38389

    研究揭示多轮攻击中危害性表征的几何演化

    分析多轮攻击中有害性与拒答表征的几何演化

    arXiv
    2609.38389
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Llama-3.1-8B-Instruct、Qwen2.5-7B-Instruct、Gemma-2-9B-it
    摘要多轮中 harmfulness 渐可分且与 refusal 弱对齐，单轮静态探针可能因此变差。

    作者刻画多轮攻击里 harmfulness 与 refusal 相关表示如何随对话变化，而不提出新的攻击或防御。

    深度解读完整解读
  2. 可解释性arXiv 2609.29781

    研究检验幻觉神经元是否存在：稀疏探针定位并不唯一

    提出五步诊断协议，检验幻觉神经元定位是否唯一

    arXiv
    2609.29781
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Gemma 3 4B、MedGemma 4B
    摘要检测和群体因果效应成立，但稀疏选择来自相关簇，不是唯一定位。

    这项工作用诊断协议复查 H-Neurons 的定位主张。问题是：L1 探针在相关激活上可以选出能预测幻觉的少量神经元，但这不等于这些神经元唯一编码该行为。

    深度解读完整解读
  3. 风险行为arXiv 2609.14803

    如何像孩子一样向前沿 AI 提问：跨 OpenAI、Anthropic、xAI 与 Google DeepMind 六款模型的"认知越狱"实验

    检验儿童受众框架是否让前沿模型收敛到同一套架构母题

    arXiv
    2609.14803
    发表
    层
    模型层
    场景
    模型与 API
    测试
    OpenAI GPT-6 Astra、OpenAI GPT-5.6 Sol、Anthropic Claude Opus 5 等 6 个
    摘要儿童框架下六类模型的架构叙事反复同构，作者将其视为行为模式而非内部认证。

    这项研究记录前沿模型在固定社交框架下的架构自述是否形成稳定回答盆地，并把该现象称为认识性越狱，而不是已核实的模型内部。

    深度解读完整解读
  4. 分析与理论arXiv 2609.32717

    研究揭示语义保持变换下的 LLM 对齐与效用不对称

    用语义保留变换探针比较效用与对齐在分布偏移下的稳定性

    arXiv
    2609.32717
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Llama3-8B-Instruct、Gemma-7B-it、Qwen2.5-7B-Instruct 等 10 个

    摘要论文报告了语义保留变换下的对齐-效用不对称性，指出安全对齐泛化比效用更为脆弱，呼吁改进评估流程。

    深度解读完整解读
已经到底了