跳到正文

观点与讨论 · 精选

10月8日 · 周四

观点与讨论 · 精选

今天还没有新的精选
10月2日周五
  1. Epoch AI · 50

    Epoch AI 分析 Mythos 的网络能力是否被夸大

    Epoch AI 汇总约十五个公开网络安全基准,用改进后的 Epoch Capabilities Index 方法构建 Cyber-ECI,评估 Anthropic 的 Claude Mythos 系列在网络能力上是否被夸大。分析认为 Mythos Preview 在漏洞利用开发上确有大幅提升,比 GPT-5.5 更强,并领先 2025 年初以来的趋势约 7 个月,Mythos 5 在此基础上小幅提升。漏洞发现方面证据不够明确:参与 Project Glasswing 的 21 家机构披露的高危和严重漏洞数在 4 月和 5 月分别超出 2025 年基线 142% 和 262%,但同期 API 额度投入最高达 1 亿美元,难以区分是模型能力还是投入增加所致。curl 维护者称 Mythos 只发现一个低危漏洞和四个误报,未显示比既有工具更强。

  2. SecureBio · 50

    SecureBio 谈如何评测超越人类水平的生物能力

    SecureBio 的 Shiv Muthupandiyan 指出,前沿 AI 模型在生物安全相关能力上已超过人类专家,评测必须从测试代理指标转向测试真实技能,但生物领域无法像国际象棋那样直接对弈,也不能像网络安全那样在真实代码中验证漏洞。文中给出的数据是,前沿模型在 Virology Capabilities Test(VCT)上的准确率在 2024 年初超过专家中位数 22%,在 2026 年超过最佳专家 50%,并在高难度生物学问题上得分是世界级专家的三倍。作者认为,超越人类前沿后分数不再对应可解释的现实能力,而直接测试双重用途生物技能本身就可能制造信息危害。可行的路径是组合可独立验证的窄任务,例如预测蛋白质折叠或抗病毒药物效果、设计无害生物产物,并观察相邻领域的信号,包括 LLM 智能体加速科研带来的能力提升,以及 AI 助长的复杂犯罪和极端暴力案件是否增加。

已经到底了