One Token Can Be Enough:用 Prefix Steering 连接提示与激活引导
One Token Can Be Enough: Bridging Prompting and Activation Steering with Prefix Steering
AI 导读
研究提出 Prefix Steering,从提示末尾 token 起在短跨度内施加已有的引导方向和算子,之后不再直接干预。作者在固定状态注意力假设下给出单 token 与多 token 引导匹配提示所诱导注意力头输出的充分条件,并刻画输入表示变化对匹配及其近似误差的影响。在四个模型和五个任务上,短跨度干预甚至单 token 干预常能保留完整引导的大部分行为控制力,同时更好地保持通用能力,在部分设置下优于提示和其他引导强度策略。该方法在推理后的最终答案格式任务上仍然有效,说明短暂的初始干预可以影响引导结束后才表现出的行为。