SCI-Defense:检测生成式引擎中对 LLM 排序的说服结构化操纵
SCI-Defense: Detecting Persuasion-Structured Manipulation of LLM-Based Ranking in Generative Engines
AI 导读
SCI-Defense 用 LLM 评审五类说服手法,检测操纵 LLM 排序的 GEO 攻击。在 Amazon 六类商品与 MS MARCO 六个网页域的 1,152 个 CORE 攻击上,以 1.2% 误报率检出 89.6% 推理型与 96.2% 评论型攻击。被标记条目降权而非改写;120 条查询子集上仅 0.6% 诚实条目跌出前三,改写与截断达 4.0-4.5%。