NESSiE：必要的安全基准——识别不应存在的错误
NESSiE: The Necessary Safety Benchmark -- Identifying Errors that should not Exist
AI 导读
论文提出面向大语言模型的安全基准 NESSiE，用少量信息与访问安全测试用例检验模型，发现即使最先进的模型也无法全部通过，在不涉及对抗攻击的情况下仍存在不应出现的安全失误。作者将 NESSiE 定位为轻量、易用的安全检查，认为通过该测试是模型部署的必要条件，但不足以保证整体安全。其 Safe & Helpful（SH）指标显示模型偏向有用而非安全；对部分模型关闭推理、尤其是存在良性干扰上下文时，模型表现会下降。作者称这些结果凸显了将此类模型作为自主智能体在真实环境中部署的风险，并公开了数据集、软件包与绘图代码。