减少合成标记使部分SDF虚假事实更难检测

Jason Zeng 报告，合成文档微调（SDF）中的合成痕迹，是部分假事实能被中层线性探针识别的原因。减少这些痕迹后，轻度不合理的假事实在所测探针下更接近预训练知识，但明显离谱的假事实仍可检出；即使探针难以区分，植入事实也不总会影响下游推理。帖子讨论其对对齐评测和 AI 控制的意义，不能据此断言所有假事实或所有检测方法都已失效。

AI 根据报道生成 · 2 天前更新

本站还没有收集到这件事的讨论链接。

每小时关注度

还没有足够的连续观测数据，暂不绘制趋势。