RedBench：面向大语言模型全面红队测试的通用数据集
RedBench: A Universal Dataset for Comprehensive Red Teaming of Large Language Models
AI 导读
研究团队发布 RedBench，一个汇总 37 个红队基准数据集、共 29,362 条攻击与拒答提示词的通用数据集。该数据集采用统一分类体系，覆盖 22 类风险和 19 个领域，用于对 LLM 漏洞做一致且全面的评测。论文分析了现有数据集，并为现代 LLM 建立基线，同时开源数据集与评测代码（https://github.com/knoveleng/redeval）。