事件历史事件
反事实训练提升语言模型自我归因能力
先了解这件事
AI 综述
研究者提出无需人工标注的CREDIT训练方法，让模型在回答末尾自述是否采纳用户建议，再在去掉提示的条件下把同一问题问四次来检验自述；作者发现前沿模型的自述表现接近随机水平。训练数据来自模型自己的回答，按无提示时给出被暗示答案的频率修改归因行。Qwen3-8B微调后平衡准确率从0.49升至0.86。
AI 根据报道生成 · 16 天前更新
相关研究
这件事的论文
- 模型真的采纳了吗？反事实训练提升语言模型的自我归因能力
arXiv · 2026-10-26
后续时间线
11月4日
- 小红书小红书 刘东瑞 上海 AI Lab· 讨论反事实训练促进LLM的自我归因（新标签页打开原帖）
10月26日
- Hugging Face Daily Papers模型真的采纳了吗？反事实训练提升语言模型的自我归因能力
研究者提出 CREDIT 训练方法，让语言模型学会准确自述其回答是否真的采纳了用户建议，全程无需人工标注。做法是让模型在回答末尾标注“采纳了建议”或“无”，再在去掉提示的条件下把同一问题问四次来检验自述；作者发现前沿模型的自述表现接近随机水平。训练数据来自模型自己的回答，只根据模型在无提示时给出被暗示答案的频率修改末尾归因行。Qwen3-8B 微调后平衡准确率从 0.49 升至 0.86，作者称在相同问题上所测的四个开源模型均超过所有被测前沿模型，代码已发布。
相关讨论
共1条
- 72 小时以前 · 不计入 72 小时的数字
- 小红书小红书 刘东瑞 上海 AI Lab反事实训练促进LLM的自我归因（新标签页打开原帖）
关注度走势
每天新增来源
- 11月4日新增1个来源（0家媒体、1个账号）
- 11月5日新增0个来源（0家媒体、0个账号）
- 11月6日新增0个来源（0家媒体、0个账号）
- 11月7日新增0个来源（0家媒体、0个账号）
- 11月8日新增0个来源（0家媒体、0个账号）
- 11月9日新增0个来源（0家媒体、0个账号）
- 11月10日新增0个来源（0家媒体、0个账号）
- 11月11日新增0个来源（0家媒体、0个账号）
- 11月12日新增0个来源（0家媒体、0个账号）
- 11月13日新增0个来源（0家媒体、0个账号）
- 11月14日新增0个来源（0家媒体、0个账号）