揭示大语言模型知识编辑中擦除的假象

一篇论文系统测试知识编辑能否真正擦除大语言模型中的危险知识，发现擦除只是表层的，底层知识在权重层面仍然完整。研究用改写、间接指代和少样本诱导等策略绕过表层编辑，可靠地重新引出被擦除的知识，说明擦除并非真实发生。论文指出，仅凭标准评测提示无法验证基于知识编辑的安全保证，必须同时测试定向诱导，而后者不在标准评测流程之内。