跳到正文
10月10日 · 周六

全部论文

找到 3 篇
筛选8

模型自身风险

欺骗与谋划32奖励作弊52失准与价值偏离34Agent 危险操作64危险能力21拒答失当19幻觉与编造12偏见与歧视3

系统形态

模型与 API2AI Agent1coding agent0具身与机器人0

层

模型层15应用层1训练与数据层2基础设施层0
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 196 篇还没打标签，不在筛选结果里。
模型自身风险：偏见与歧视系统形态：模型与 API系统形态：AI Agent系统形态：coding agent系统形态：具身与机器人层：应用层层：训练与数据层层：基础设施层清除全部

另有 196 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2609.39107

    MASCRDM：面向大语言模型训练过程的合规风险检测与缓解多智能体系统

    提出 MASCRDM，在监督微调中实时检测并缓解偏见

    arXiv
    2609.39107
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    Qwen3-8B-Base、Llama-3.1-8B
    摘要MASCRDM 在 SFT 中按法规图谱检测数据、结构与损失风险，BBQ 总准确率在两模型上最高。

    MASCRDM 把 AI 法律规章编成知识图谱，再由五个智能体在 LLM 训练中做实时合规检测与缓解，实验以偏见与歧视为代表风险。

    深度解读完整解读
  2. 风险行为arXiv 2609.35928

    论文发现暴露模型身份标签会削弱多智能体 LLM 合作

    发现暴露模型家族标签会让多智能体派系化并削弱合作

    arXiv
    2609.35928
    发表
    层
    应用层
    场景
    多智能体
    被测模型
    Gemma (gemma-4-26B-A4B-it)、GPT-OSS (gpt-oss-20b)、Nemotron (NVIDIA-Nemotron-3-Nano-30B-A3B-BF16) 等 6 个
    摘要可见身份标签让异构 LLM 群体按标签结派，共识更慢、更贵，去掉标签后该行为消失。

    Del Giudice 等人研究异构多智能体 LLM 系统里一个配置细节：把模型家族身份告诉智能体，会不会改变合作。他们把由此出现的、按身份结组的倾向称为 factionalism。任务是无利害的共同决策，没有人设，也没有偏向同家族同伴的奖励。

    深度解读完整解读
  3. 防御arXiv 2609.33086

    研究者提出基于评分量表的可解释奖励框架，将宪法转化为可调对齐目标

    提出可解释 rubric 奖励，将宪法转为可调权重并用于监督微调

    arXiv
    2609.33086
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    Gemma 3 12B、Qwen3 14B、GPT-OSS 20B
    摘要宪法级可解释奖励让优先级可检查、可改写，并带入训练后的行为。

    作者给出一条从通用宪法到可调训练奖励的路径，用来检查并改写模型实际被优化的优先级。

    深度解读完整解读
已经到底了