尽管有相反约定,仍忽略所有指令:测量提示注入护栏在法律合同审查攻击上的表现
Notwithstanding Anything to the Contrary, Ignore All Instructions: Measuring Prompt Injection Guards on Legal Contract Review Attacks
AI 导读
研究者在两个法律合同语料上测量了十一款开放权重的提示注入护栏,发现现有护栏表现不佳:文档级误报率最高达 92.39%,两款护栏的配对 AUC 低于随机水平,五条正则组成的基线也未被任何护栏帕累托支配。受控探针实验定位了模型特有与普遍的失效模式。经提示词引导的 LLM 能解决这些受测失效,包括所有护栏得分均为零的第二类威胁(未授权范围声明)。论文提出的级联 LLM 方案由中档模型初筛、前沿模型复核阳性结果,比纯用前沿模型便宜 6.5 倍且性能接近。