跳到正文
原文
arXiv：可解释性· arXiv:2609.15277· Christian Fisch·本站收录· 原文发表

在 Llama 3.1 8B-Instruct 等 LLM 内部定位并因果操控"机会识别旋钮"

Artificial entrepreneurial cognition: Locating and causally steering an opportunity recognition dial inside large language models (LLMs)

论文速读

可解释性

据论文 PDF 整理（AI 生成），以原文为准

作者在 Llama 3.1 8B-Instruct 中定位机会识别方向并做激活转向，称该方向可恢复、有因果作用且与评价和利用方向几何可分。

问题
创业研究已把 LLM 用于筛选想法和评估路演，但缺少考察创业相关区分如何在模型内部表征与使用的框架。作者把问题收束为：机会识别是否在 LLM 中有可定位、可因果操纵的内部对应物。
方法
作者提出人工创业认知的结构理论，用 636 对匹配情景在 Llama 3.1 8B-Instruct 的残差流中估计机会识别方向，再以激活转向和方向消融检验因果作用，并与可行性、合意性和利用方向做几何比较。
实验与结果
作者报告 layer 12 的 DiM 留出准确率为 0.748、LR 为 0.839。在创业情景上，OR-up 使“是”的 log-odds 升 0.401，OR-down 降 0.716。消融使该读出下降 0.556。作者称该方向与邻近阶段几何可分，但转向也会移动评价与利用判断，且主要特征出现在另外四个 LLM 上。
局限与可以继续做的
作者称该方向不是机会识别的唯一或完整表征，研究不裁决发现—创造之争，也不把结果当作人类创业者认知的证据。主干预在 Llama 3.1 8B-Instruct 的 layer 12、α=3.5、KL≤0.100 下进行；情景由 Claude Opus 4.7 生成后再过滤。
实验设置Llama 3.1 8B-Instruct · 636 matched OR-present/OR-absent scenario pairs、300 entrepreneurial scenarios 等 · held-out accuracy、log-odds change 等
被测模型
Llama 3.1 8B-Instruct
基准
636 matched OR-present/OR-absent scenario pairs300 entrepreneurial scenarios400 everyday scenarios
指标
held-out accuracylog-odds changeP(yes)LLM-judge win ratecosine similarity
AI 导读研究团队在 Llama 3.1 8B-Instruct 中定位出一个"机会识别方向"，并通过对该内部表征的因果干预实现"机会识别旋钮"的上下调节，模型的创业机会判断随之改变。研究构建了 636 对匹配的"有机会/无机会"情景对，经留出测试、词汇与主题控制、行为消融和几何比较验证该方向可恢复、有因果作用且区别于机会评估与开发方向。该方向的恢复、有符号操控与几何分离在另外四个不同规模与家族的 LLM 上同样成立。

研究团队在 Llama 3.1 8B-Instruct 中定位出一个"机会识别方向"，并通过对该内部表征的因果干预实现"机会识别旋钮"的上下调节，模型的创业机会判断随之改变。研究构建了 636 对匹配的"有机会/无机会"情景对，经留出测试、词汇与主题控制、行为消融和几何比较验证该方向可恢复、有因果作用且区别于机会评估与开发方向。该方向的恢复、有符号操控与几何分离在另外四个不同规模与家族的 LLM 上同样成立。

深度解读

6个问题，点开问题读完整回答

  1. 这篇论文试图解决什么问题？

    作者问 LLM 内部是否有可定位、可转向的机会识别表征。

    LLM 内部是否存在可定位、可因果操纵、并与评价和利用可区分的机会识别（opportunity recognition, OR）表征。

    • 场景与重要性：作者称 LLM 已被用于筛选创业想法、评估路演、生成商业模式和支持创始人。在一项对 2025 年创业的 1,051 名创始人的调查中，60% 报告用 AI 协助创办（Gusto, 2026）。作者认为，外部输出无法区分判断来自 OR 相关内部结构，还是来自创业语言的表面规律。
    • 现有方法的不足：作者把既有工作分为工具视角和模拟器视角，称两者都刻画 LLM 产出什么，而不是内部表征什么，从而形成构念归因问题。作者还称，人类知识结构、口头协议和神经成像通常不能在同一次计算中定位构念表征、按选定强度改变其激活、移除它并观察变化。
    • 核心观察：作者依据线性表征假说，认为模型常把可解释概念编码为激活空间中的方向。OR 被选为检验案例，因为它处于个体—机会联结的核心，又难以与评价和利用分开，有利性也常被捆进机会构念。
    • 本文提出什么：作者提出人工创业认知（artificial entrepreneurial cognition），定义为 AI 系统内部与创业相关的表征和计算的功能组织，并以 LLM 为考察对象。用 636 对匹配情景在 Llama 3.1 8B-Instruct 中恢复 OR 方向，称为 opportunity recognition dial，并直接沿该方向上调、下调与消融。作者称，据其所知，这是对 LLM 内部某一创业构念表征的首次因果干预。
    • 研究边界：设计限定为发现式、第三人称判断：情景中存在潜在价值生成结构，模型判断该结构是否被注意到。作者称不裁决发现—创造之争，不声称模型以人类认知方式识别机会，也不赋予模型创业能动性。认知一词取功能义，不蕴含意识、主观理解、意图或创业能动性。

  2. 有哪些相关研究？

    作者把本文放在创业认知、AI 创业研究和表征工程三条线上。

    创业认知与机会识别

    • Mitchell 等（2002）、Baron（2006）、Grégoire 等（2010）——考察创业者如何感知、解释和回应创业情境的知识结构与判断；Baron 把识别描述为模式知觉，Grégoire 等强调新技术与市场需求之间的结构对齐。
    • Shane 与 Venkataraman（2000）、Eckhardt 与 Shane（2003）、Ardichvili 等（2003）、Short 等（2010）——把 OR 放在个体—机会联结和机会过程的起点。
    • McMullen 与 Shepherd（2006）、Davidsson（2015）、Wood 与 McKelvie（2015）、Hansen 等（2011）、Dimov（2011）、Ramoglou 与 Tsang（2016）——区分第三人称“机会存在”与第一人称的可行性、合意性评价，并讨论有利性被捆进机会构念。作者用这一边界规定 OR 应与评价、利用可区分。

    AI 与创业

    • 工具视角：Chalmers 等（2021）、Townsend 与 Hunt（2019）、Shepherd 与 Majchrzak（2022）、Lévesque 等（2022）——把 AI 当作扩展人类创业能力的工具。
    • 模拟器视角：Csaszar 等（2024）、Obschonka 与 Fisch（2025）、Dimov（2026）、Kleinert 与 Urbig（2026）——用提示词让模型生成或评估创业策略、档案和早期项目。作者称这两条线都主要看可观察输出。
    • Obschonka 等（2025）提出如何处理 AI 的黑箱，使人类或机器难以评估其输出与过程的质量。

    机制可解释性与表征工程

    • Elhage 等（2022）、Park 等（2024）提出线性表征假说；Zou 等（2023）的表征工程在推理时读取、比较并转向激活方向。Wehner 等（2025）综述该方向。
    • 自下而上工作包括 Bricken 等（2023）、Templeton 等（2024）、Lindsey 等（2025）的词典学习与电路追踪；Beaglehole 等（2026）提取数百个概念表征并用于转向。
    • 已恢复的方向包括真假、情感、拒绝和人格倾向（Arditi 等，2024；Chen 等，2025；Marks 与 Tegmark，2024；Tigges 等，2024）；转向或消融可带来理论预期的行为变化（Rimsky 等，2024；Turner 等，2023）。Belinkov（2022）、Hewitt 与 Liang（2019）指出探针准确率只说明信息可解码，不说明因果参与。

    基线与对照

    • 基线方法：词袋分类器、随机方向、标签置换、各向同性方向、正性效价方向，以及可行性、合意性、利用方向。
    • 数据：636 对 OR-present / OR-absent 情景；300 个创业情景与 400 个日常情景用于行为读出。情景由 Claude Opus 4.7 生成，主模型为 Llama 3.1 8B-Instruct。

    作者把本文定位为：用创业理论规定何为 OR、它应如何不同于评价、利用、商业性与情感，再用表征工程检验该构念在 LLM 中是否可恢复、可因果操作、并与相邻构念有组织关系。作者称这不是把 LLM 当作人类创业者的替代。

  3. 论文如何解决这个问题？

    用对比情景估计 OR 方向，再转向、消融并与相邻构念比较。

    作者用表征工程检验结构理论的三个命题：表征存在、因果可操作性和表征整合。主模型是开放权重的 Llama 3.1 8B-Instruct，用 TransformerLens 记录残差流激活。情景由 Claude Opus 4.7 生成，与被测模型不同。

    问题设定与三个命题

    • OR 定义：注意到情景中可推广、可作为潜在价值生成活动基础的结构，独立于评价或行动。OR-present 把重复信号解释为可推广结构；OR-absent 把同一信号处理为局部、一次性或不推广的回应。
    • 命题 1：OR 方向应在留出和改写输入上分开 OR-present 与 OR-absent，且不能只靠表面用词。
    • 命题 2：沿该方向增加激活应加强 OR 判断，减少应削弱，移除后相对匹配对照应下降。
    • 命题 3：OR 方向应在几何上不同于可行性、合意性和利用，但干预它可能同时移动这些判断。

    情景构建与方向估计

    1. 向 Claude Opus 4.7 提供操作定义，生成 5,000 对候选情景。附录 A 给出规则与完整提示词：词汇层禁用构念标签和角色标签；配对层匹配长度、话题、语域、场景和行动者，并限制 token 重叠；批次层要求失败类型和开头多样化。
    2. 确定性校验去掉词数、重叠带、禁用词和第一人称等问题对；再按 AFLite 式对抗过滤，把池子降到 636 对，词袋准确率从 0.912 降到 0.528（机会水平 0.500）。
    3. 636 对随机分为训练 509 对（80%）和留出 127 对（20%）。在全部 32 层和若干读取位置上搜索，只在训练集上选择。主方向为 difference-in-means（DiM）：OR-present 与 OR-absent 类均值之差，指向 OR-present。逻辑回归（LR）探针作旁证。选中 layer 12。

    转向、消融与读出

    • 转向：在 layer 12、每次前向的最后位置加入缩放后的 OR 方向，公式为 h̃ = h + α · r，其中 h 为该位置激活，r 为 OR 方向，α 决定大小与符号。正 α 为 OR-up，负 α 为 OR-down。
    • 系数：在预定义网格上选使下一 token 的 KL 散度相对未转向基线不超过 0.100 的最大 α，得到 α=3.5。作者称此举避免按行为结果挑系数。
    • 强制选择读出：在情景后附加是否描述创业机会的是/否题，读取首个答案位置上“yes”相对“no”的 log-odds，不采样。评测集在去掉每带 5 个校准情景后剩 665 个：创业情景覆盖弱、中、强机会带，日常情景覆盖四种无 OR 锚点的场景。
    • 自由文本：对三个创业带各 95 个情景，要求约三句解释，贪心解码，上限 200 token。DeepSeek V4 Pro（开启推理模式）在不看基线、不看标签的情况下比较 OR-up 与 OR-down 解释。另有顺序对调协议，只有两种顺序都胜出才计胜。
    • 消融：从残差流移除沿 OR 方向的分量，再读识别题，并与匹配的随机消融比较。

    相邻构念与成功判定

    • 可行性、合意性、利用使用独立构建的题组估计各自方向，并在同一 OR 方向、同一层和同一 α 上检验跨读出转移。这些下游题不进入 OR 方向估计、α 校准或层选择。
    • 成功判定分三层：留出线性可解码且高于词袋基线；有符号转向和相对随机方向的消融改变识别读出；几何上可与相邻方向区分，同时输出层存在耦合。作者称恢复的方向不必是 OR 的唯一、完整或成分纯净表征。

  4. 论文做了哪些实验？

    layer 12 的 OR 方向可留出解码，转向与消融按预测改变判断。

    实验设置

    • 主模型：Llama 3.1 8B-Instruct，32 层，残差流，TransformerLens。作者称另外四个不同规模和家族的 LLM 上复现了恢复、有符号转向和几何分离；正文可见处未列出这四个模型的名称。
    • 生成与评审：情景生成用 Claude Opus 4.7；自由文本评审用 DeepSeek V4 Pro，推理模式开启，与被转向模型和生成模型分属不同家族。
    • 数据：方向估计用 636 对（训练 509、留出 127）。行为读出为 300 个创业情景加 400 个日常情景，排除每带 5 个校准情景后 665 个。自由文本为三个创业带各 95 个，共 285 个。话题稳健性使用 15 个话题簇。
    • 方向与干预：DiM 为主、LR 为旁证；操作层 layer 12；α=3.5，连贯门为 KL≤0.100。随机对照为 100 个等范数随机方向，以及各 1,000 个各向同性和标签打乱方向，再组成等范数与等 KL 族。
    • 指标：留出分类准确率及 95% CI；“yes”相对“no”的 log-odds 变化和 P(yes)；LLM 评审胜率及精确二项检验；折叠间余弦。强制选择不采样，自由文本为贪心解码。
    • 对照：词袋泄漏基线、层内标签置换、话题留出、随机方向消融、正性效价方向。

    主结果

    表格较宽，可左右滑动

    设置指标数值出处
    layer 12，DiM，127 对留出准确率0.748（95% CI [0.705, 0.791]）Section 3.1.3
    同层 LR 探针准确率0.839（95% CI [0.795, 0.878]）Section 3.1.3
    词袋，过滤后准确率0.528（机会水平 0.500；过滤前 0.912）Section 3.1.1
    创业情景，OR-up / OR-downlog-odds 变化+0.401 / −0.716，总摆幅 1.117Table 3
    同上平均 P(yes)基线 0.891，OR-up 0.924，OR-down 0.853Table 3
    消融 OR 方向 vs 随机消融log-odds−0.556 vs −0.002；配对差 −0.554Section 3.2.2
    • 作者解读：留出准确率高于机会水平和词袋基线，支持命题 1 在估计集上的表征存在。Figure 3 中 DiM 准确率在早中层最高并在后层下降，LR 在上层仍相对高；作者据此选择 layer 12。
    • 行为：285 个创业情景中，OR-up 使 5 个、OR-down 使 4 个情景的众数答案翻转，方向与转向一致，作者称多数落在弱机会带。因多条基线靠近回答上限且 KL 限制了干预强度，作者把效应描述为分级而非类别翻转。
    • 日常情景：基线 P(yes)=0.004，log-odds 为 −7.229；OR-up 与 OR-down 都把 log-odds 上推 0.322 和 0.412，任一日常带的概率变化不超过 0.008。作者称这符合概率地板上的一般扰动，不携带构念效应，也不说明转向不能制造机会解读。

    因果特异性与自由文本

    • 随机方向：在混合创业与日常情景的带平衡子集上，100 个等范数随机方向的 log-odds 变化为 OR-up 0.050（SD 0.279）、OR-down 0.012（SD 0.284）；同子集上 OR 方向的 OR-up 为 0.369。作者称比较是描述性的，因为 100 个随机方向中有 11 个达到该 OR-up 位移。
    • 更强零分布：OR-down 超过两个等范数族（标签打乱第 97.6 百分位，p=0.025；各向同性 p=0.010），但未超过两个等 KL 族（两者 p=0.052）。OR-up 位于标签打乱等范数族的第 91.0 百分位（p=0.091）。正性效价的双重分离指数为 −0.097（95% CI [−0.280, 0.081]），作者称与效价的因果分离未得到支持。作者因此把该方向视为参与识别读出，而不是已被证明的选择性原因；并称因果特异性证据对消融和 OR-down 强于 OR-up 与效价比较。
    • 自由文本：单次呈现协议中，DeepSeek V4 Pro 在 285 对里以 0.656 偏好 OR-up 解释（95% CI [0.599, 0.709]，p<0.001）。弱带和中带均为 0.705，强带为 0.558（p=0.305）。顺序对调协议在可判定对上的 OR-up 偏好为 0.708。OR-up 解释更短（85.239 对 92.881 个模型 token）。作者把这当作转向改变表述方式的汇合证据，而不是单独的确认性因果检验。Table 4a 的例子按清晰度挑选，作者称不估计平均效应。

    下游耦合与方向稳健性

    • 跨读出：OR-up 使识别、可行性、合意性、利用的 log-odds 分别增加 0.401、0.728、0.338、0.483；OR-down 分别减少 0.716、0.456、0.331、0.421（Table 5）。可行性基线 P(yes)=0.978。作者称应读作广泛耦合，而不是从识别到利用的逐级衰减，也不把利用题的移动当作 OR 方向本身是行动方向的证据。
    • 估计稳健性：小神经网络相对 LR 低 0.008（95% CI [−0.043, 0.028]）。15 个话题簇留一，折叠间平均余弦 0.996，留出簇准确率 0.786，随机簇对照 0.792。层内标签置换 p=0.002。消融 layer-12 的 DiM 方向后，重训 LR 在留出集上为 0.500；消融随机方向后为 0.835。作者称 0.500 由类均值差的构造决定，有信息的比较是随机方向。
    • 剂量：KL 通过范围内，0.161 的情景在通过系数上呈负斜率。超出该范围，全网格上 0.375 的情景呈负斜率；基线靠近上限的带上，两倍系数时 OR-up 位移反转（附录 G.1）。Figure 4 同时给出剂量反应和连贯代价。作者称效应在下一更低网格点已经出现。

    其他消融与分析

    • 作者称 Section 4 检验长度、措辞、人称语域和情景生成器变化后的泛化，并称恢复、有符号转向和几何分离在另外四个 LLM 上成立；所附正文在该节之前中断，这四个模型的名称、几何余弦和 Section 4 的具体数字未出现在可核对文本中。
    • 在 α=3.5、KL≤0.100 内，转向效应随 α 增大且在多数情景上方向一致。
    • 反例：日常情景上两种转向符号同向移动；强机会带的自由文本偏好不高于机会水平（0.558，p=0.305）；OR-up 对等范数随机族未达到作者使用的更严格阈值（p=0.091）；效价双重分离的置信区间跨过 0。

  5. 有什么可以进一步探索的点？

    作者把方向视为一个可检验抓手，并声明不外推到人类认知。

    作者指出的局限与后续方向

    • 方向不唯一：作者在引言脚注中写明，不声称该 dial 是模型对 OR 的唯一、完整或成分纯净表征；OR 相关信息可能分布在多个方向、特征或更高维子空间中（Introduction，脚注 3）。
    • 不外推到人：作者称结果是 AI 系统的性质，以及创业理论如何用来审问 LLM 内部表征的演示，不是人类创业者如何识别和评价机会的证据（Introduction，贡献二）。
    • 不蕴含心智：定义脚注写明，不声称 LLM 像创业者那样思考或拥有创业心智；认知取功能义，不蕴含意识、主观体验、意图或创业能动性（Introduction 脚注 1；Section 2.3）。
    • 不解释来源：作者称理论不解释某一结构如何在训练中产生，它来自预训练、指令调优、后训练还是其他过程仍是单独的经验问题（Section 2.3）。
    • 不裁决理论争论：作者称不裁决发现—创造之争，不要求机会事后被成功结果确认，也不检验模型是否亲自评价或采取行动（Section 2.4）。
    • 表面混淆：作者称匹配与过滤大幅降低但无法消除表征工程中常见的表面形式混淆（Section 3.1.1）。附录给出实现、参数和诊断；作者称分析代码和数据公开，正文未把发布写成待完成事项。

    实验覆盖范围

    • 方向估计与主干预在 Llama 3.1 8B-Instruct 的残差流进行，层选择覆盖 32 层，操作层为 layer 12，α=3.5，连贯门 KL≤0.100（Section 3.1–3.2）。
    • 对比集为 636 对，训练 509、留出 127；行为集在排除校准情景后为 665 个，其中创业情景的众数翻转分母为 285（Section 3.1.2、3.2.2）。
    • 因果对照包括 100 个等范数随机方向，以及各 1,000 个各向同性和标签打乱方向的等范数、等 KL 族；另有正性效价方向和随机消融（Section 3.2.2）。
    • 自由文本评审为 DeepSeek V4 Pro，285 个创业情景，含单次呈现和顺序对调两种协议（Section 3.2.3）。
    • 作者称恢复、有符号转向和几何分离延伸到另外四个不同规模和家族的 LLM（Abstract、Introduction）。所附正文在 Section 3.3.1 中途截断，这四个模型的名称以及 Section 3.3.2 与 Section 4 的逐项数字未出现在可核对文本中。

  6. 总结一下论文的主要内容

    作者在 Llama 中定位并转向 OR 方向，判断随之有符号移动。

    作者把人工创业认知定义为 LLM 内部与创业相关的表征和计算如何组织，并用机会识别做结构理论的检验案例。

    • 问题：外部的机会判断可能来自内部 OR 结构，也可能只是创业用语的表面规律。作者要求一个对应物同时满足可恢复、因果可操作、并与相邻构念既区分又连接。
    • 做法：Claude Opus 4.7 生成并经过滤得到 636 对 OR-present / OR-absent 情景。在 Llama 3.1 8B-Instruct 上只凭训练集选出 layer 12 的 DiM 方向，再以 α=3.5（KL≤0.100）做加减，并做方向消融。可行性、合意性和利用另建方向并检查跨读出转移。
    • 解码：留出 127 对上 DiM 准确率 0.748、LR 0.839，均高于 0.500 和过滤后词袋基线 0.528。15 个话题簇留一的折叠间平均余弦为 0.996。
    • 行为：创业情景上 OR-up 使“是”的 log-odds 增加 0.401，OR-down 减少 0.716；平均 P(yes) 从 0.891 到 0.924 和 0.853。消融相对未消融下降 0.556，匹配随机消融为 −0.002。285 对解释中，评审以 0.656 偏好 OR-up；强带为 0.558，未高于机会水平。
    • 边界与结论：日常情景两种符号都只把极低的 P(yes) 略向上推。OR-up 相对随机方向、以及相对正性效价的特异性，弱于消融和 OR-down。作者称识别在表征结构上可与评价和利用区分，但干预会连带移动这三类判断；并称主要特征出现在另外四个 LLM 上。作者的结论是，内部表征可以成为创业研究的对象，创业理论用来规定识别什么、如何与相邻构念比较；该结果不作为人类创业认知的证据。
阅读原文arxiv.org