当无害的词语造成伤害：概念触发词对大语言模型安全的新威胁
When Harmless Words Harm: A New Threat to LLM Safety via Conceptual Triggers
AI 导读
研究者提出名为 MICM 的模型无关越狱方法，用概念触发短语操纵模型输出的隐含价值立场，在不触发常规安全过滤的情况下诱导不当内容。该方法基于概念形态学理论，将预定义短语编码进固定提示词模板，引导模型输出趋向特定价值立场。作者在 GPT-4o、DeepSeek-R1、Qwen3-8B 等五个先进大语言模型上评估，报告 MICM 持续优于最先进的越狱技术，以极少拒答实现高成功率。作者称这一发现揭示了商业大语言模型的安全机制仍易受底层价值对齐的隐蔽操纵，现有对齐策略对利用模型抽象泛化能力的攻击存在盲点。