J-Lens 无法检测阈下学习教师在 7B-32B 模型中传递的内容
J-Lens can't detect what a subliminal learning teacher is transmitting (in 7B-32B models)
AI 导读
作者复现 subliminal learning（阈下学习）实验，发现被系统提示“喜爱猫头鹰”的 Qwen2.5-7B-Instruct 教师能通过数字序列把偏好传给学生模型，学生提及猫头鹰的比例从 1% 升到约 8%，但 J-Lens 在约 142 万条补全中仅 1.65% 的试验把 owl 读入 top-1（随机水平 0.26%）。该镜头在复制等玩具任务上 top-1 达 45%，说明并未失效；“传递发生但镜头读不出”的情形在 Gemma-4-31B 上也复现，其余 46 组设置中仅 5 组出现明确传递。附加实验显示，只用镜头 top-1 命中的样本训练学生可把传递率推到 57.2%，而镜头完全未命中的样本仍以接近随机子集的速率传递。
推荐理由
作者在 7B-32B 开源模型上发现阈下学习传递发生而 J-Lens 读不出对应概念的情形，对依赖可解释性工具监控模型内部的读者有参考价值。