假新闻文章可扭转LLM预测系统74%-82%预测
先了解这件事
研究者提出一种针对以检索新闻为证据的LLM预测系统的攻击：攻击者只需知道预测问题并发布捏造新闻文章，无需接触模型、检索器或查询。在股票和真实预测市场问题上，假文章进入模型上下文后，能在所测的每个前沿模型上扭转74%至82%与其对立的预测，模型无法核实其为捏造仍予采信，而平均准确率几乎不变；两家领先部署的预测系统约90%的运行会检索到这篇假文章。发布两篇方向相反的文章则让模型不对冲，仍给出攻击者已无法控制的自信预测。段落过滤与分区检索两种防御各自能挡住单篇文章攻击，但会被一处提示词改动绕过；两者合用可挡住四篇文章的两种绕过，却被十六篇扭曲副本击败，改变29%的干净决策并丢弃39%的真实新闻。分区检索还要求控制检索索引，搜索开放网络的系统只剩过滤可用，攻击依然有效。
AI 根据报道生成 · 2 天前更新
走势与进展
每小时关注度
现在 42，24 小时 -1%·峰值 44（11月13日 18:00）
相关研究
这件事的论文
- 一次捏造就够了：一篇假新闻文章改变 LLM 预测系统的预测
arXiv · 2026-11-11 · 深度解读
后续时间线
- arXiv：其他 AI 安全论文精选一次捏造就够了：一篇假新闻文章改变 LLM 预测系统的预测
西北大学研究者的论文实测了一种针对 LLM 预测系统的检索投毒攻击：攻击者只需发布一篇支持特定方向的假新闻文章，无需接触模型或检索器。文章进入模型上下文后，74% 至 82% 原本反对该方向的预测被扭转，在所测五个前沿模型上均成立；按公开描述复现的 AIA Forecaster 和 xAI Grok ForecastBench 系统约九成运行会检索到该文章。模型无法验证文章真伪；攻击后预测器平均准确率几乎不变，但预测方向随攻击者的押注摆动，两篇方向相反的假新闻也不会让模型对冲。段落过滤与分区检索各自能挡住单篇文章攻击，却会被一次提示词改动绕过，合用可挡四篇但被十六篇扭曲副本击败，且会改变 29% 的无攻击决策、丢弃 39% 的真实新闻；分区检索还要求部署方控制检索索引，搜索开放网络的系统无法使用。
相关讨论
关注度走势
每天新增来源
- 11月13日新增1个来源（1家媒体、0个账号）
- 11月14日新增0个来源（0家媒体、0个账号）
- 11月15日新增0个来源（0家媒体、0个账号）