ARMOR：通过细致推理实现大语言模型的安全对齐
[Daily Paper] ARMOR: Aligning Secure and Safe Large Language Models via Meticulous Reasoning
AI summary
ARMOR 是一种推理时运行的安全层，先识别提示词中的越狱策略，再提取真实意图，最后依据明确的安全政策输出带推理轨迹的拒答判定。作者 Zhao 等人用对抗后缀、角色扮演和组合式攻击评测，称其在 GPT-4 级模型上显著降低攻击成功率并保持任务有用性，同时减少了对合法边缘请求的过度拒答。该方法的策略检测阶段会带来延迟开销，作者建议与表示层监控等互补防御叠加使用。