减少合成标记会让部分 SDF 虚假事实更难检测
Reducing synthetic markers makes some SDF false facts harder to detect
AI 导读
Jason Zeng 报告，合成文档微调（SDF）中的合成痕迹，是部分假事实能被中层线性探针识别的原因。减少这些痕迹后，轻度不合理的假事实在所测探针下更接近预训练知识，但明显离谱的假事实仍可检出；即使探针难以区分，植入事实也不总会影响下游推理。帖子讨论其对对齐评测和 AI 控制的意义，不能据此断言所有假事实或所有检测方法都已失效。