揭示大语言模型知识编辑中擦除的假象
[Daily Paper] Exposing the Illusion of Erasure in Knowledge Editing for Large Language Models
AI 导读
一篇论文系统测试知识编辑能否真正擦除大语言模型中的危险知识，发现擦除只是表层的，底层知识在权重层面仍然完整。研究用改写、间接指代和少样本诱导等策略绕过表层编辑，可靠地重新引出被擦除的知识，说明擦除并非真实发生。论文指出，仅凭标准评测提示无法验证基于知识编辑的安全保证，必须同时测试定向诱导，而后者不在标准评测流程之内。
推荐理由
论文用改写、间接指代和少样本诱导测试知识编辑，显示被编辑掉的知识仍可被重新引出，为检验此类安全声明提供了可复用的测试思路。