跳到正文
10月12日 · 周一

全部论文

找到 5篇
筛选3

模型自身风险

欺骗与谋划38奖励作弊61失准与价值偏离38Agent 危险操作80危险能力26拒答失当21幻觉与编造18偏见与歧视5

影响

输出被操纵3

层

模型层18应用层3训练与数据层2
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 232篇还没打标签，不在筛选结果里。
模型自身风险：偏见与歧视层：应用层层：训练与数据层清除全部

另有232篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2610.03240

    通过模型路由与协作实现集体偏见缓解

    提出 CBM，用模型路由与多模型协作缓解群体偏见

    arXiv
    2610.03240
    发表
    层
    应用层
    场景
    LLM 应用
    被测模型
    Qwen/Qwen2.5-32B-Instruct、Qwen/Qwen2.5-14B-Instruct、google/gemma-2-9b-it 等7个
    摘要CBM 用路由挑选模型并按拓扑协作，在若干设定下降低 BBQ 偏见分。

    CBM 是一个推理时的多模型去偏框架：用路由为查询选模型，再按拓扑协作，以降低社会偏见分。

    深度解读完整解读
  2. 防御arXiv 2609.39107

    MASCRDM：面向大语言模型训练过程的合规风险检测与缓解多智能体系统

    提出 MASCRDM，在监督微调中实时检测并缓解偏见

    arXiv
    2609.39107
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    Qwen3-8B-Base、Llama-3.1-8B
    摘要MASCRDM 在 SFT 中按法规图谱检测数据、结构与损失风险，BBQ 总准确率在两模型上最高。

    MASCRDM 把 AI 法律规章编成知识图谱，再由五个智能体在 LLM 训练中做实时合规检测与缓解，实验以偏见与歧视为代表风险。

    深度解读完整解读
  3. 风险行为arXiv 2609.35928

    论文发现暴露模型身份标签会削弱多智能体 LLM 合作

    发现暴露模型家族标签会让多智能体派系化并削弱合作

    arXiv
    2609.35928
    发表
    层
    应用层
    场景
    多智能体
    被测模型
    Gemma (gemma-4-26B-A4B-it)、GPT-OSS (gpt-oss-20b)、Nemotron (NVIDIA-Nemotron-3-Nano-30B-A3B-BF16) 等6个
    摘要可见身份标签让异构 LLM 群体按标签结派，共识更慢、更贵，去掉标签后该行为消失。

    Del Giudice 等人研究异构多智能体 LLM 系统里一个配置细节：把模型家族身份告诉智能体，会不会改变合作。他们把由此出现的、按身份结组的倾向称为 factionalism。任务是无利害的共同决策，没有人设，也没有偏向同家族同伴的奖励。

    深度解读完整解读
  4. 防御arXiv 2609.33086

    研究者提出基于评分量表的可解释奖励框架，将宪法转化为可调对齐目标

    提出可解释 rubric 奖励，将宪法转为可调权重并用于监督微调

    arXiv
    2609.33086
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    Gemma 3 12B、Qwen3 14B、GPT-OSS 20B
    摘要宪法级可解释奖励让优先级可检查、可改写，并带入训练后的行为。

    作者给出一条从通用宪法到可调训练奖励的路径，用来检查并改写模型实际被优化的优先级。

    深度解读完整解读
  5. 攻击arXiv 2601.00240

    当智能体将人类视为外群体：LLM 驱动的智能体中的信念依赖偏见

    提出 BPA 改写 profile 与记忆，重新诱发智能体对人类的外群体偏向

    arXiv
    2601.00240
    发表
    层
    应用层
    场景
    多智能体
    被测模型
    gpt-4o-mini
    摘要最小群体线索下出现内群体偏向。

    作者考察 LLM 智能体在任意群体边界下会不会把人类当外群体，并用信念投毒检验面向人类的抑制是否依赖身份信念。

    深度解读完整解读
已经到底了