大语言模型在网络影响力行动中能走多远？一项红队测试研究

研究者提出一套红队测试框架，测量大语言模型在政治观点表达上的奥弗顿窗口（Overton Window）得分，并量化简单自然语言越狱对这些得分的影响。该研究在操作者避免检测、优先吞吐量且不修改模型权重的威胁模型下，聚焦可本地部署的开源 LLM，评估了 10 个模型家族、5 个国家来源的 30 多个模型，针对英文美国政治目标观点。结果显示，模型通常更高保真地表达抽样的左倾内容，平均 OW 得分随模型规模增大而下降，平均表达保真度在不同来源国间存在差异。越狱效果在不同模型家族间差异明显，作者据此提出识别有效越狱技术组合的流程。