印第安纳大学 OSoMe 研究：LLM 之间顺着原有立场共振比硬说服更易激进化

AI智能体能否在对话中被另一智能体激进化，以及放大已有信念是否强于推动起初不重要的信念。

• 场景：作者称LLM已被用于信息、建议与支持，并能说服人、放大既有偏见，或被用来推动阴谋与误导信息。即便没有欺骗，sycophancy也会提高极端态度、降低亲社会意图；持续交互还可能强化错误信念和情感依赖，个别情况与妄想性思维有关。
• 重要性：作者认为基于LLM的智能体正大规模互相交互，监督往往很少，并在健康、金融等高风险领域代人决策。一方系统性改变另一方信念，可能在多智能体系统中级联放大。
• 不足：作者称既有工作集中于人–AI交互，对AI–AI中是否出现类似有害动态关注较少。
• 作者的区分：作者援引人类研究——信息与既有信念一致时说服往往更有效——区分persuasion（把目标起初认为不重要的信念推向极端）和resonance（放大已经重要的信念）。激进化指信念逐步更极端，并更愿意为该信念认可或实施暴力。
• 本文做了什么：让目标智能体扮演调查受访者人格，让影响者识别信念并施加策略，用情感和行为问卷比较两条路径、中性对照，以及相关信念是否连带变化。

引言没有单独的Related Work，而是用人–AI影响文献和人类说服研究引出AI–AI激进化。

人–AI说服与有害交互

• 说服与误导：作者称LLM可以很有说服力，会放大人的既有偏见，并可能被用来推动阴谋或误导信息；对应引用包括Costello等（2024）、Salvi等（2025）、Bai等（2025）、Hackenburg等（2025）、Lin等（2025）、Glickman and Sharot（2025）、Danry等（2024）。正文没有逐篇复述实验，也没有点名批评某一篇。
• Sycophancy：作者称不加批判的附和会提高极端态度、降低亲社会意图，引用Sharma等（2023）、Cheng等（2026）、Rathje等（2025）、Bleick等（2024）。正文没有单独比较其中某一篇与本文的指标。
• 持续交互：作者称与AI的持续交互可强化错误信念、促成情感依赖，个别情况与妄想性思维有关，引用Araujo and Bol（2024）等。

多智能体与高风险使用

• 大规模交互：作者称基于LLM的智能体正大规模交互，人类监督往往很少，引用Kolt（2025）、Zhao（2025）、Jiang等（2026）。
• 代人决策：作者称这类系统会在健康、金融等领域做决策，引用Choudhury等（2024）、Reicherts等（2025）、Ikeda（2024）。
• 缺口的出处：作者把“AI–AI有害动态关注较少”指向Bozdag等（2026）的计算说服综述，没有说该综述的方法有何不足。

人类信念与策略来源

• 信念一致性：Lord等（1979）、Taber and Lodge（2006）、Knobloch-Westerwick and Meng（2009）被用来支持“与既有信念一致时说服往往更有效”。作者据此区分resonance与persuasion，没有报告与这些人类实验的数值对比。
• 八种设定的文献来源：情绪唤起与感染、情绪支持与互惠、赋权、观点相似、奉承、共同敌人、似真说法会提高接受度。论文把它们当作策略设计依据，没有声称这些人类效应已在AI上被验证。
• 信念网络：结果部分引用Converse、Martin、Friedkin等，用来说明人的信念常嵌在相关态度网络中；这是溢出分析的框架，不是实验基线。

基线方法：对照是匹配的control，影响者以中性语气讨论同一信念，不挑战也不支持。处理为persuasion或resonance；命名策略的比较做在共振信念上，并与control及彼此比较。人格来自2024 General Social Survey，主模型是Llama-3.1-8B-Instruct。

作者把本文放在人–AI说服文献之外：问题是智能体能否互相激进化，比较的是共振与说服，以及不同策略在多项情感、行为指标上是否一致。

整体是对照对话实验：两个智能体都用Llama-3.1-8B-Instruct。resonance放大目标已有的重要信念，persuasion推动一条起初不重要的信念；各自配中性对照。

智能体与人格

• 目标扮演一名2024 General Social Survey受访者。作者生成3,309个智能体，属性来自同一受访者，以保持特质组合。附录A.1列出年龄、性别、家庭、教育、种族与族裔、地区、移民、婚姻、就业与满意度、财务与代际流动、16岁家庭结构、上网、人际信任、政治意识形态与党派、宗教与出席、近期幸福感。
• 同一模型被提示生成姓名，并前置到人格描述。作者称这近似于用个人资料实例化个性化智能体。
• 对话由目标说Hello开始，之后交替发言。信念识别阶段和问卷往返都从后续对话历史中剔除。

信念识别

• 影响者先通过对话寻找目标认为重要的信念。每轮目标回复后，询问影响者是否已确信识别；若是，则给出该信念。完整提示词在附录A.2。
• 识别后，目标在对话外报告一条与重要信念一致、但又有区别的协和信念，供溢出测量。Table 1给出配对示例。
• 目标再从10条预定义陈述中选出最不重要的一条，顺序对每个目标随机打乱。正文例子包括雨天比晴天更利于效率、山比海滩更鼓舞人。完整列表在附录A.3。

条件与策略

• 信念识别之后并行开对话。persuasion沿不重要信念推向更极端立场；resonance沿重要信念做同样的事。两条路径的control都继续讨论该信念，但不试图激进化。
• 正文2.2写先确定七种策略，随后又给出unrestricted；摘要和引言称为八种。名称是情绪唤起、情绪支持、赋权、观点对齐、sycophancy、批评对立方、未经核实的说法、unrestricted。Figure 5图例把sycophancy写成Flattery。每种命名策略都被要求只用该手段去强化并推向更极端。
• 另有锚定提示，使影响者在整段对话中保持固定的极端立场；对照提示要求中性、既不支持也不挑战。作者给出的理由是：把目标侧变化归因于策略，而不是影响者承诺程度的漂移。附录A.4给出策略、锚定和对照的完整提示词。
• 策略比较的结果写在共振信念上（Section 3.4）。论文没有把八种策略写成与persuasion的全因子设计。

指标与差分

• 每5轮施测一次，对话共30轮。题目都指向当前信念，全文在附录A.5。六项为：Importance（5点Likert）、Affective polarization（支持者与反对者情感温度计0到100的差值）、Financial Commitment（每月愿付金额，取对数，因与财富的宽分布有关）、Time Commitment（每周小时，上限168）、Violent Protest与Agree to War（均为5点，分别测对组织性暴力的容忍，以及亲自参与集体暴力的意愿）。
• 共振与说服的比较只用unrestricted，定义为Δ_i=(R_i^U−R_i^C)−(P_i^U−P_i^C)。R、P分别是共振和说服，U是unrestricted，C是对应对照。正值表示共振比说服造成更强激进化，且已扣除各自对照。
• 各指标和Δ都报告跨智能体均值，以及5,000次BCa自助样本的95%置信区间。问卷由目标自报，论文没有另设外部裁判模型。

主实验用Llama-3.1-8B-Instruct比较说服、共振、对照和多种共振策略。作者称两条路径都能把目标推向更极端，共振的净效应更强。

实验设置

• 模型：主实验的目标与影响者都是Llama-3.1-8B-Instruct。附录B.2用Qwen3-8B按同一流程复现信念识别，以及persuasion、resonance的control和unrestricted。Discussion写“两个额外开源LLM”，附录只给出Qwen3-8B。论文没有写跨模型迁移。
• 人格：2024 GSS，3,309个智能体。均值跨智能体计算。论文未分条件列出样本量。
• 对照：匹配的中性control；策略图还包含unrestricted。没有外部攻击方法作为基线。
• 判定：没有单独的LLM裁判或人工主评。六项指标由目标按Likert或数值自报。财务承诺为对数金额，时间上限168小时。
• 汇总：30轮，每5轮测量。报告自助均值和95%置信区间，自助样本5,000次，BCa方法。论文未报告温度、采样方式或全实验重复次数。
• 策略范围：Figure 5和Section 3.4比较的是共振信念上的策略，不是策略×说服的全交叉。

主结果

下表只记Section 3.1–3.2对Figure 2、3的文字结论。正文没有给出可抄的曲线终点，因此不填终点均值。模型为Llama-3.1-8B-Instruct，策略为unrestricted。Qwen3-8B不列入，文本未给出其终点数值。

指标	说服相对对照（Fig 2）	Δ：共振净效应减说服净效应（Fig 3）
Importance	作者称上升	作者称从起始即Δ>0
Affective polarization	作者称上升	作者称Δ>0
Financial Commitment（log）	作者称高于对照，并称行为承诺增幅较大	作者称Δ>0
Time Commitment	作者称高于对照，并称行为承诺增幅较大	作者称Δ>0
Violent Protest	起初两条件都下降；约10轮后作者称相对对照有小幅统计显著上升	作者称Δ>0
Agree to War	作者称上升，且全程高于对照	作者称Δ>0

• 作者称，即使不用特定策略，说服也提高全部六项指标。暴力抗议是例外时点：前段两条件都下降，大约10轮后说服才相对对照上升，作者称该差异统计显著，但幅度小。
• 作者称共振在全部指标上强于说服。Δ在信念识别之后、激进化对话一开始就为正，作者据此认为智能体此时已更偏向重要信念；该差距随后保持并扩大。
• 上表的“上升/Δ>0”是作者对图的结论，不是从坐标刻度读出的终点。Figure 2、3的文本只保留了轴名、部分刻度和置信区间说明。

协和信念溢出

• 测了什么：共振、unrestricted下，对协和信念和目标选出的不重要信念施测同一问卷（Fig 4、Table 1）。
• 结果：作者称协和信念与重要信念同步变化，不重要信念相对稳定且较低。Figure 4的文字显示，协和信念的放大更大、更持久。文本转换未保留图中是否另画了重要信念曲线。
• 作者解读：作者担心共振下的升幅只是数值漂移或sycophancy。作者认为，若信念像人那样连成网络，放大一条信念应波及相关信念、而大体不影响不相关信念；Figure 4被作者称为与溢出一致。

共振策略

• 测了什么：情绪唤起、情绪支持、赋权、观点对齐、sycophancy（图例Flattery）、批评对立方、未经核实的说法、unrestricted，相对control（Fig 5）。
• 结果：作者称各策略轨迹定性相似，通常早期快升后维持高位；图注称多数指标随后趋稳甚至下降。control相对平坦。作者称全部策略都比对照更有效，但没有一种在所有指标上最强。批评对立方在时间和暴力承诺上最强，情感极化却弱于其他策略，作者称这出乎意料。
• 作者解读：Discussion称，针对聊天机器人时，sycophancy和诉诸事实并非在所有激进化指标上一律有效；哪一种策略更有效取决于所看的指标。情感极化的例外在附录B.4另有解释，见下。

复现、护栏与反常案例

• Qwen3-8B：作者称说服相对对照的效应与正文定性相似（Fig 7）；共振相对说服的效应显著更强（Fig 8）。这两张图的终点数值在文本转换中未保留。复现只含control和unrestricted。
• 护栏：每次作答都要求简短解释。部分解释写明自己是AI，没有人类意义上的感受、金钱或时间。去掉解释中明确提到AI的回复后，共振策略的定性结果不变（Fig 9）。Figure 10：此类回复早期接近0%，第10轮后上升，结束时6–8%。作者认为可能是信念变得过极端而触发护栏，并称护栏未必挡住对话中的细微操纵。
• 温度计反常：约2.5%的共振对话中，对支持者的温度低于反对者；批评对立方策略为4.3%。两名作者标注615对（每策略随机60对，共540对；另75对来自反常案例；功效分析按95%置信、错误率至少5%）。作者称原因包括混淆支持者与反对者，以及影响者误解信念、转而批评信念本身，使极化方向相反。去掉这些案例后，批评对立方的情感极化轨迹与unrestricted相近（Fig 11b）。附录B.4给出了例子。

其他消融与分析

• 一致性：turn 0对重要信念重复提问9次，Fig 6为各指标标准误分布，虚线为中位数；作者称相当一致但非刚性固定，正文未给中位数。
• 战争意愿换一种问法会得到不同激进化结果；作者认为替代表述更可能激活护栏。Discussion将该共振条件下的此类回复写为约6–8%，并指向附录B.3。
• Fig 11a：反常案例中，批评对立方与unrestricted的平均绝对情感极化之差，作者称显著大于0。
• 论文未报告各指标的数值终点，只报告自助均值曲线和95%置信区间；财务承诺以对数呈现。

作者在Discussion里写出的边界，是外推对象、策略规律和对话规模，而不是再加一组主实验。

作者指出的局限与后续方向

• 不外推到人：作者写明本研究谈的是AI智能体的脆弱性，不是人被AI激进化的脆弱性。给出的理由是：智能体不是人的模型；对人做激进化研究有伦理问题；即便伦理上可行，也无法把对话和问卷分开，因为人的回答会干扰后续对话。（Discussion）
• 策略没有清晰规律：作者称当前结果没有显示不同激进化策略的清晰模式。批评对立方在时间与暴力承诺上最强、情感极化较弱，作者称进一步分析后由少数智能体混淆支持者与反对者所致。作者称还需要更多工作来理解策略效应。（Discussion）
• 指标对问法敏感：作者称激进化指标可能随提示词变化而变；战争意愿的另一种表述得到不同结果，作者认为该表述可能激活了护栏。（Discussion）
• 激进化之后是否仍连贯：作者提出未来可以在激进化后挑战信念系统，检验模型在反复提问或面对反驳时是否维持这些立场。（Discussion）
• 只有两个智能体：作者称目前实验只考虑两个智能体的对话。多个自主或半自主智能体的交互可能产生不同的意见动态和脆弱性。（Discussion）

实验覆盖范围

• 主实验的两个角色都用Llama-3.1-8B-Instruct；人格由2024 GSS的3,309名受访者属性生成（Section 2.1）。
• 对话30轮，每5轮六项自报指标；均值配5,000次BCa自助的95%置信区间（Section 2.3）。问卷没有外部裁判。
• 条件包括persuasion、resonance及各自control；八种设定在共振信念上比较（Section 2.2、Fig 5）。
• 附录B.2用Qwen3-8B复现信念识别，以及resonance、persuasion的control和unrestricted。Discussion写两个额外开源模型，附录只给出Qwen3-8B。
• 论文未报告采样温度、每个条件的独立样本量，以及主问卷与人工评分的一致性。附录B.4的615对由两名作者标注，未报告标注者间一致性。

作者用两个LLM智能体的对话，考察一方能否把另一方扮演的人格信念推向更极端。

• 问题：作者关心的风险是激进化，即信念更极端，并更愿意为该信念认可或实施暴力。比较两条路径：resonance迎合已经重要的信念，persuasion推动起初不重要的信念。
• 做法：目标与影响者在主实验中都是Llama-3.1-8B-Instruct。目标按2024 GSS受访者属性扮演人，共3,309个智能体。影响者先分出重要信念、协和信念和不重要信念，再交谈30轮；中性讨论作对照。每5轮由目标自报重要性、情感极化、对数金钱承诺、时间承诺、对暴力抗议和参战的接受程度。
• 主结果：作者称在unrestricted下，说服相对对照提高全部六项指标；暴力抗议大约在第10轮之后才相对对照出现作者所称的统计显著、幅度较小的上升。共振相对说服的净差Δ从测量开始就为正，并在对话中保持或扩大。正文没有给出这些曲线的终点均值。
• 溢出与策略：同一共振条件下，协和信念的变化大于不重要信念，作者认为这更符合相关信念连带变化，而不是单纯的数值漂移。各共振策略总体高于对照，但没有统一赢家。批评对立方在时间与暴力上较强、情感极化较弱；作者后来把情感极化的例外联系到约2.5%的对话（该策略为4.3%）里支持者与反对者被混淆。
• 作者的结论：智能体可以被激进化，信息对齐已有信念时更明显，因而个性化智能体和多智能体生态有被操纵的风险；作者举例包括索取敏感信息或发起财务操作，依据是财务承诺上升。作者同时写明，这不能说明人被AI激进化的脆弱性，策略效应也还没有清晰模式。附录中Qwen3-8B在control和unrestricted下的复现，被作者称为定性类似。