FAR.AI 发布 ClearHarm 越狱数据集，聚焦 CBRN 等明确有害问题

FAR.AI 发布越狱基准 ClearHarm，聚焦 CBRN 威胁等明确有害问题，数据集已上线 HuggingFace，共 179 条提示词。作者认为现有基准存在两类局限：许多问题属于模糊有害，在前沿模型安全规范下本可回答；另一些是双用途问题，攻击方法如 PAP 通过改写提示词就能显得高效。ClearHarm 只收录仅可用于攻击目的的单一用途查询，无论提示词结构、框架或上下文如何都应被拒答。数据集由 Claude 3.7 Sonnet 生成候选类别与示例，最终选定生物、化学、核、常规武器和网络恶意代码五类，并统一语法结构以便跨类别比较。作者称内部测试中，许多在现有数据集上表现有效的越狱方法在提取这类明确有害信息时效果明显下降，详细结果将在后续论文中公布。