ICO：通过迭代上下文优化增强语义偏移越狱攻击

研究者提出黑盒语义偏移越狱框架 ICO，在 3 个数据集和 8 个目标基础模型上取得 74.6% 的平均攻击成功率，优于 8 个最先进基线。语义偏移越狱将有害问题中的有害词替换为良性替代词，再利用上下文诱导模型把这些替代词重新解读为对应的有害概念。论文发现现有方法效果有限源于忽视上下文本身的语义偏移能力，不同上下文诱导语义偏移的能力差异显著，能力越强越容易引导模型恢复有害含义并成功越狱。ICO 在每轮迭代中利用提炼出的有效上下文特征和目标模型的反馈来优化上下文。