CELLAUDIT:审计 AI 智能体发现细胞模型中的输入使用声明
Discover, Falsify, Revise: Auditing Input-Use Claims from Source Code to Predictive Contribution in Agent-Discovered Cell Models
CellAudit 用源码检查与输入替换审计智能体发现的细胞响应模型:BBBC047 上高分预测器 Global PCC 0.3153,但对化合物替换完全不变。
- AI 虚拟细胞要预测干预响应,但留出预测分数不能证明模型用了所给扰动。智能体搜索主要按分数修订,可能选出不使用注册输入的高分预测器。
- CellAudit 把注册的输入使用声明连到源码与拟合行为,分三问:输入能否进入所引计算、拟合预测是否依赖它、该依赖是否改善对观测响应的预测。证据可回馈下一轮修订。
- BBBC047 上被选模型 Fold 5 Global PCC 为 0.3153,接近 control-only 的 0.3142,且对化合物替换不变。48 个候选中 47 个两折都改变预测,仅 20 个两折 target-loss 区间都大于零。sci-Plex 上审计反馈的均值更高,但五条轨迹的成对区间跨零。
- 讨论称结论取决于拟合模型、评测设定和注册替换分布;正贡献不同于通过参照阈值;sci-Plex 评的是整套审计反馈而非单项诊断。观测支持替换不建立生物学可交换性、机制或因果效应。
- Evaluated models
- CellScientistAIDECellForgeHarmonyCell
- Benchmarks
- BBBC047BBBC036sci-Plex3LINCS–Pilot1LKCP Batch 2Norman CRISPRa
- Metrics
- Global PCCMSEEcmpdEctrltarget-loss gainShapley allocation
CELLAUDIT 通过审计输入能否进入所引计算、拟合预测是否依赖该输入、以及该依赖是否改善对观测响应的预测,来检验 AI 智能体发现细胞模型中的输入使用声明。在 BBBC047 基准上,智能体选出的预测器平均留出 Global PCC 为 0.3153,但对化合物替换保持不变,仅用对照谱的预测器也达到 0.3142;源码检查发现化合物查询通路被 singleton key-value attention 阻断。对 48 个候选的分层审计中,47 个在化合物替换下改变预测,但仅 20 个在两折上目标损失增益区间高于零。
Paper analysis
What problem does this paper attempt to solve?
高分细胞响应预测器未必使用其声明的扰动输入,智能体搜索需要可检验的输入使用声明。
预测分数与注册输入使用声明可以脱节:智能体选出的细胞响应模型可能几乎不用化合物等扰动信息。
- 场景:作者称 AI 虚拟细胞旨在预测化学与遗传干预的细胞响应,并最终支持干预设计。模型可以靠细胞上下文、对照谱或其他系统性结构得到好预测,却很少或不使用所提供的扰动信息。作者把注册声明与实现或拟合行为不符称为 prediction–claim gap。
- 现有不足:CellScientist、CellForge、HarmonyCell 等系统生成可执行预测器、训练并按验证反馈迭代修订。作者称反馈主要奖励预测表现时,搜索可能偏向高分模型,而不检验设计所指定的输入是否被使用;候选变多后人工核验更难。
- 核心区分:一条被引用的通路可以在数学上不活跃;可执行通路拟合后影响可以很小;输入依赖也不必然带来预测收益。因此源码消费、拟合依赖和与目标相关的预测贡献三者不等价。
- 本文做法:提出 CellAudit,把注册的输入使用声明连到源码与冻结检查点上的匹配输入替换,并可用证伪证据指导修订。最终声明只在选定源码、检查点和审计规则冻结后评估。
What related research exists?
相关工作分扰动预测评测与发现、依赖检验和假设证伪;CellAudit 从注册声明出发而非从预测行为出发。
- 扰动预测与评测:Lotfollahi 等(2019;2023)、Bunne 等(2023)、Roohani 等(2024)、Cui 等(2024)用潜变量迁移、组合表示、神经传输、遗传图和基础模型预测化学或遗传响应。Wu 等(2025)、Wenteler 等(2025)在划分与基线上标准化评测;Ahlmann-Eltze 等(2025)、Viñas Torné 等(2026)、Miller 等(2025)、Mao 等(2026)考察线性参照、共享响应变异、校准指标和分布偏移。作者称这些工作问响应能预测和评测到什么程度,CellAudit 问注册的输入使用声明是否被源码和拟合行为支持。
- 发现、依赖与证伪:Boiko 等(2023)、Romera-Paredes 等(2024)、Jiang 等(2025)用科学智能体生成并修订可执行假设、程序和模型。Fisher 等(2019)、Chamma 等(2023)、Ribeiro 等(2020)用置换依赖、条件替换和行为测试探测拟合模型。ConceptSMILE(Mollapour 等,2026)研究解释可靠性,POPPER(Huang 等,2025)自动证伪假设。作者称依赖检验从预测行为出发,CellAudit 从注册声明及其所引计算出发。
- 基线与数据:预测分数发现在匹配初始模型、执行器、反馈和十候选预算下比较 CellScientist、AIDE、CellForge、HarmonyCell。数据与参照包括 BBBC047、BBBC036、sci-Plex3、LINCS–Pilot1、LKCP Batch 2、Norman CRISPRa,以及 control-profile-only、GEARS 和观测单扰动加性基线。
作者将本文定位为:在智能体模型发现上增加证伪层,把流程从 generate–score–revise 推向 discover–falsify–revise。
How does the paper address this problem?
CellAudit 依次检查源码消费、拟合依赖和目标相关贡献,并用证伪证据约束下一轮搜索。
整体上,CellAudit 在固定数据与评测规则下,让语言模型提出修订,再用确定性的输入使用测试检查声明,必要时把诊断写回下一轮提示。
问题设定
- 注册量:每个样本含生物上下文 c、扰动表示 p、可选属性 a(如剂量)和响应 y。源码 s 与参数 θ 定义预测器。搜索前注册输入坐标和允许的干预;审计记录声明来自候选还是任务约定,选定后固定所引计算与测试映射。
- 划分:Folds 1–2 拟合;Fold 3 提供反馈并选择检查点。选定检查点在 Folds 4 和 5 上评估。预测分数发现还在 Fold 4 上跨策略选源码,再为 Fold 5 重拟合。Norman 在 Fold 4 之前选源码,Fold 5 重拟合同一源码且不再选择。
- 缺口定义:所引源码与注册声明矛盾,或拟合预测对输入替换不变,即出现 prediction–claim gap。预测表现影响该案例的重要性,不改变定义。
源码检查
- 三态:给定注册输入和所引位置,抽象语法树检查返回 implemented、implementation-contradicted 或 unresolved。覆盖率是所引位置全部得到解析的候选比例;未解析代码仍可做行为测试。
- 局部缺陷:作者称只有一对 key–value 时,注意力的归一化权重为常数,查询不能传递化合物信息。这只定位被引用通路;全模型替换再看是否还有其他路径依赖该输入。
拟合依赖与预测贡献
- 替换:检查点与目标固定,只替换一个注册输入 xq。预测距离衡量不看目标的依赖,零表示在所测替换上不变。
- 效应:分数下降与损失上升写为 Δ mq = m(f(x), y) − m(f(x−q, x̃q), y),Δ Lq = L(f(x−q, x̃q), y) − L(f(x), y)。正值表示相对注册替换,观测输入有益。单坐标对比与 2×2 化合物–上下文的析因效应分开;迁移分析把化合物与剂量的分配分开。
- 不确定性:同一检查点内重复测量先平均。连续贡献用配对训练种子或轨迹区间;固定模型用源组重采样。BBBC、LINCS、LKCP 分别报告效应分位区间相对参照阈值是 above、below 还是 across。正的均值贡献可以落在任一类别。Norman 使用单独的基于损失的准则。
用证伪证据指导下一次搜索
- 两条修订理由:被否定的源码路径推动可执行通路;弱的目标贡献推动在上下文之上学习增量。路径约束发现把结构化设计卡编译成带显式化合物通路的模型。
- 残差:BBBC 的证伪引导发现使用 ŷ = g(c) + α h(c, p, a),其中 g(c) 在 Folds 1–2 上拟合后固定。编译器要求扰动与剂量分支中心化、上下文门控和无偏置读出,使联合参照输入处残差为零。训练与 Fold 3 反馈使用预测误差和替换引起的损失变化。
- 选择规则:BBBC047 在合格候选中按预测分数选择;BBBC036 在预测非劣候选中优先化合物损失增益。每条轨迹评估锚点加九个提议;Fold 3 选择尺度 α 和检查点,再冻结到 Folds 4 和 5。
- sci-Plex 对照:两种条件共享上下文加剂量锚点 g(c, a),以及直接预测器或锚点残差的权限。Score 提供指标和学习曲线;Audit 另加分组误差、源码检查和开发集上的化合物与剂量替换。损失、优化器、训练上限和 PCC 优先的选择保持固定。作者称比较的是完整审计反馈包,选定源码和检查点在两次留出评估前冻结。
What experiments did the paper conduct?
高分 BBBC047 模型对化合物替换不变;证伪引导修订恢复正贡献;sci-Plex 均值更高但成对区间跨零。
实验设置
- 任务:BBBC036 与父集 BBBC047 从同板对照谱、化合物表示和剂量预测联合形态–转录响应;Bemis–Murcko 骨架折留出化合物家族,Global PCC 选模型。sci-Plex3 预测 2,000 基因的孔级响应,留出化合物–细胞系组合。LINCS–Pilot1 上选出的十个设计冻结后在 LKCP Batch 2 重拟合。Norman 预测未见双扰动组合的 5,045 基因响应。
- 策略:预测分数发现比较 CellScientist、AIDE、CellForge、HarmonyCell,十候选预算,每任务十条轨迹,每个选定模型五次配对重拟合。sci-Plex 两种条件使用同一 DeepSeek 服务模型(记录标识 deepseek-v41),五条配对轨迹,每条五个新候选名额。
- 对照分离:BBBC047 把每板对照孔分成等大的 A/B 库。共享臂与不相交臂在目标参照固定时,分别从同一库或另一库取输入谱。两种朝向各重拟合分数所选源码、control-only 源码和一个固定引导设计,五种子,共 60 个检查点。
- 指标:Global PCC、MSE、化合物与对照的析因 PCC 效应 Ecmpd 与 Ectrl、对应损失效应、替换后的预测距离,以及 LINCS/LKCP 上化合物身份与剂量的 Shapley 分配。参照计数是效应分位区间高于、低于或跨越阈值的次数。
- 已知函数检查:6,400 个独立模拟数据集区分不变、敏感但无收益、有收益和有害。论文报告了五次重拟合或十条轨迹等重复,部分区间为 95% CI。
主结果
Table 1(BBBC047;Full/Control 为 mean Global PCC;Reference 为高于/低于/跨越阈值的计数):
Swipe horizontally to read the table
搜索 折 Full Control Ecmpd Ectrl Reference Prediction-score(源码 Contradicted) 4 0.3035 0.3019 0.0000 0.1932 0/5/0 Prediction-score 5 0.3153 0.3142 0.0000 0.2004 0/5/0 Path-constrained(Implemented) 4 0.2822 未报告 0.0083 0.1388 0/6/4 Path-constrained 5 0.2922 未报告 0.0074 0.1477 0/7/3 Falsification-guided(Implemented) 4 0.3060 0.3023 0.0053 0.1988 0/10/0 Falsification-guided 5 0.3173 0.3145 0.0048 0.2051 0/10/0 - 作者解读:预测、源码实现和与目标相关的化合物使用是三件不同的事。分数所选模型在每次重拟合中化合物打乱使 PCC 变化为 0.0000;Fold 5 上 Full 减 control-only 为 +0.0011(95% CI [−0.0005, +0.0027])。
- 源码定位:被引用的化合物条件交叉注意力只有一个 key 和一个 value,归一化权重为常数。行为测试给出全模型不变性。化合物-only 正对照的打乱效应为 0.0111 ± 0.0010,五次重拟合都高于参照阈值。
- 路径与残差:显式化合物通路使 Fold 4/5 的平均析因化合物效应为 0.0083 和 0.0074,但相对阈值多数为 below 或 across。证伪引导模型相对 control-only 的增益为 Fold 4 +0.0037、Fold 5 +0.0028,化合物效应为正,且没有一个模型超过参照相对准则。作者称显式通路模型的化合物效应更大,但预测分数更低。
分层候选与对照孔分离
- 48 个候选:Figure 2a,b 覆盖两个相连任务。一个已实现的多塔源码仍然完全不变。47 个候选在两个留出折上都表现出拟合依赖,只有 20 个在两折上都有位于零以上的 target-loss scaffold 区间。作者称源码消费和拟合依赖因此不能解决许多候选的预测贡献问题。
- 不相交对照:不相交臂上,分数所选源码 Global PCC 为 Fold 4 的 0.3085 和 Fold 5 的 0.3193,control-only 为 0.3082 和 0.3185。该源码在每次重拟合和评估中仍对化合物完全不变。六组共享减不相交的 PCC 比较,五种子区间都跨零。作者称在这一参照构造层,不复用物理对照孔时不匹配仍然存在。
- 固定引导设计:相对不相交 control-only,PCC 增益为 Fold 4 +0.0028(95% CI [+0.0017, +0.0038])和 Fold 5 +0.0025([+0.0012, +0.0037])。化合物替换使 PCC 下降 0.0043 和 0.0033,目标损失增加 1.5106×10−4 和 1.1939×10−4,各种子区间为正。效应略小于共享臂。
sci-Plex 审计反馈与独立队列
- 预测:Figure 3 保留五条配对前沿。Audit 的 MSE 比 Score 在 Fold 4 低 9.58%、Fold 5 低 6.10%,两者都优于锚点。Audit−Score 的 PCC 为 Fold 4 +0.0024(配对 95% CI [−0.0013, +0.0060])和 Fold 5 +0.0015([−0.0005, +0.0034])。
- 贡献:化合物 target-loss 增益从 Fold 4 的 0.0186 升到 0.0220,从 Fold 5 的 0.0064 升到 0.0079。这些 Audit−Score 对比的配对 t 区间在两折都包含零(Table 68)。两种条件的五个端点上,正确输入都有助于预测。去掉任一条轨迹后,均值方向和有利的 MSE、化合物损失增益方向仍在;预测 RMS 差异在去掉一条后可以反向。两种条件都完成全部 25 个新候选;Audit 使用 38 次相对 Score 的 36 次逻辑模型调用,以及 592,347 相对至少 286,995 个报告 token(Table 65)。
- LINCS 到 LKCP:冻结设计重拟合后,相对 control-only 的增益为 Fold 4 +0.0104(95% CI [+0.0103, +0.0106])和 Fold 5 +0.0211([+0.0205, +0.0217])。剂量 Shapley 分配在 LINCS 为 +0.0486 和 +0.0467,在 LKCP 为 +0.0237 和 +0.0341。化合物身份分配在 LINCS 为 +0.0175 和 +0.0126,在 LKCP 为 −0.000070 和 +0.0033。50 个轨迹端点重拟合在每个队列–折边界都通过剂量准则,但在任一 LKCP 边界都不通过化合物身份准则。LINCS 上该准则 Fold 4 为 35/50、Fold 5 为 10/50。
- Norman:五次 CellScientist 重拟合都在两个留出折上通过配对输入束准则;同时打乱 multi-hot 配对身份及其匹配的单扰动锚点,使 PCC 下降 0.5578 和 0.6280。平均 PCC 超过 h0 为 +0.0060 和 +0.0045,超过观测单扰动加性基线为 +0.0209 和 +0.0114(Table 26)。
其他消融与分析
- 观测支持替换(Table 57):引导检查点覆盖 Fold 4 的 3341/4380 行和 Fold 5 的 2927/3878 行;化合物 PCC 下降 0.00534 和 0.00404,损失增益 1.84×10−4 和 1.44×10−4;分数所选模型在同样合格行上仍完全不变。
- BBBC036 Fold 5:引导模型相对上下文锚点的增益为 −0.0020,预测与化合物增量的模型–骨架区间跨零(Table 16)。
- 固定残差学习器:作者称 Ridge 化合物敏感但联合响应分数低;BBBC047 上残差 MLP 的化合物效应大于引导模型,但分数更低;引导模型在四个 BBBC 评估上都领先两个参照的 mean Global PCC。
- 已知函数:在敏感但无收益的零假设上,仅映射的区间对固定数据集条件效应接近名义覆盖,对总体效应覆盖不足;源组区间改善总体覆盖,有限组时仍有覆盖不足。固定化合物收益而改变参照上下文变异,也可以改变是否合格。
- Figure 1D 记录的一条 sci-Plex 修订:编码器由 2 改为 1,保留 dose-FiLM 与 rank-128 融合;该步 PCC 从 0.9781 到 0.9782,化合物增益从 0.0185 到 0.0195;节点 5 为 Fold 4 的 0.9781 与 Fold 5 的 0.9779。
- 作者称 CellScientist 的 mean Best@10 和 frontier AUC 在两个相连任务上领先,相对 HarmonyCell 的区间跨零(Table 19);表中具体数值正文未列出。
What are some points that can be further explored?
作者称结论取决于拟合、评测和替换分布,且正贡献不同于通过参照准则。
作者指出的局限与后续方向
- 条件性:讨论称这些结论取决于拟合模型、评测设定和注册的替换分布(Discussion)。
- 准则与重拟合:正贡献不同于通过参照相对准则;一次拟合的支持不应被后来的重拟合继承(Discussion)。
- 替换的含义:观测支持替换避免未观测组合,但不建立生物学可交换性、机制或因果效应(Discussion)。
- 反馈包:sci-Plex 研究评估的是完整审计反馈包,而不是单项诊断(Discussion)。
- 模拟覆盖:已知函数实验中,源组区间改善总体覆盖后,有限组的覆盖不足仍然存在(Section 6.4,Appendix F.1)。作者将其作为报告连续贡献、跨模型不确定性和参照相对状态时应分开的理由。
实验覆盖范围
- 开发任务为 BBBC036 与 BBBC047;匹配反馈在 sci-Plex3;固定设计从 LINCS–Pilot1 重拟合到 LKCP Batch 2;遗传组合为 Norman CRISPRa,参照为 GEARS。
- 预测分数发现比较 CellScientist、AIDE、CellForge、HarmonyCell;sci-Plex 的服务模型记录为 deepseek-v41,五条配对轨迹。
- 分层审计为两个相连任务上的 48 个生成候选;BBBC047 的对照孔分离包含 60 个在评估前固定的检查点。
- 每条证伪引导轨迹评估锚点加九个提议;sci-Plex 每种条件五个新候选名额,两种条件都完成 25 个新候选。
- 论文报告了部分 95% CI、五种子或五轨迹区间,以及 Table 65 的逻辑模型调用和报告 token;百分位自助预测区间与配对 t 区间在五对轨迹上的结论可以不同(Appendix N.2)。
Summarize the main content of the paper
CellAudit 把输入使用声明从源码追到拟合贡献,并说明高分不必等于使用了扰动。
CellAudit 为智能体发现的细胞响应模型增加一层输入使用证伪:源码是否消费注册输入、拟合预测是否依赖它、该依赖是否改善对观测响应的预测。
- 问题:留出预测分数不能确立扰动信息被使用。按分数修订时,搜索可以留下高分但对指定输入不变的预测器。
- 做法:抽象语法树检查所引计算;在冻结检查点上做匹配替换,区分预测距离、分数变化和损失变化。BBBC 上,被否定的通路用显式化合物路由修补,弱贡献则用固定对照预测器上的残差学习。sci-Plex 上把源码检查和替换诊断写回下一轮提示,并与只给分数的反馈配对比较。
- BBBC047:分数所选模型 Fold 5 mean Global PCC 为 0.3153,control-only 为 0.3142,化合物析因效应为 0.0000。不相交对照孔重拟合后仍然不变。48 个候选里 47 个在两折上改变预测,20 个两折 target-loss 区间都大于零。证伪引导模型 Fold 5 Full 为 0.3173、Ecmpd 为 0.0048,十个模型的参照计数为 0/10/0。
- 迁移与遗传:sci-Plex 上 Audit 的 Fold 4 MSE 比 Score 低 9.58%,化合物损失增益从 0.0186 到 0.0220,但配对区间跨零。LINCS 设计在 LKCP 上预测增益和剂量贡献仍在,50 个重拟合都不通过化合物身份准则。Norman 上五次重拟合都通过对输入束的准则,打乱使 PCC 下降 0.5578 和 0.6280。
- 作者结论:预测成功和所声称的输入使用应分开评估;预测泛化不必带来声明泛化。作者认为 sci-Plex 上发现被改进的证据是提示性的而不是结论性的,因为五条轨迹的配对区间包含零。