SecureBio 谈如何评测超越人类水平的生物能力
SecureBio 的 Shiv Muthupandiyan 指出，前沿 AI 模型在生物安全相关能力上已超过人类专家，评测必须从测试代理指标转向测试真实技能，但生物领域无法像国际象棋那样直接对弈，也不能像网络安全那样在真实代码中验证漏洞。文中给出的数据是，前沿模型在 Virology Capabilities Test（VCT）上的准确率在 2024 年初超过专家中位数 22%，在 2026 年超过最佳专家 50%，并在高难度生物学问题上得分是世界级专家的三倍。作者认为，超越人类前沿后分数不再对应可解释的现实能力，而直接测试双重用途生物技能本身就可能制造信息危害。可行的路径是组合可独立验证的窄任务，例如预测蛋白质折叠或抗病毒药物效果、设计无害生物产物，并观察相邻领域的信号，包括 LLM 智能体加速科研带来的能力提升，以及 AI 助长的复杂犯罪和极端暴力案件是否增加。