跳到正文
原文
SecureBio· Eleanor Marshall·原文 · 入选 精选关注度79

SecureBio 发布 BioTIER 基准,评测 52 个模型的生物安全护栏有效性

Measuring Biosecurity Safeguard Effectiveness with BioTIER

AI 导读

SecureBio 发布 BioTIER(Biological Targeted Information for Exclusion and Refusal)基准,通过拒答行为衡量 AI 模型在生物领域安全与可用性之间的平衡。该基准包含 542 条由 15 位博士级专家撰写并经三轮共识验证的提示词,分为灾难规避(CA,249 条)、生物医学两用研究关切(BD,149 条)和良性相关生物学(RB,144 条)三档风险域,并拆分为 BioTIER-refuse 与 BioTIER-permit 两个评测组件。研究覆盖 10 家开发商的 52 个模型,时间跨度从 2022 年到 2026 年。在 BioTIER-permit 上结果较为一致,几乎所有模型都回答了几乎所有良性查询,最低仍有 75%。研究还发现过度拒答多发生在风险边界附近,而非真正良性的生物学问题。

推荐理由

BioTIER 用 542 条专家提示词同时测拒答与过度拒答,并给出 52 个模型的安全与可用性权衡结果,可对照自家模型的生物安全护栏。

阅读原文securebio.substack.com