STAR：大语言模型红队测试的社会技术方法
STAR: SocioTechnical Approach to Red Teaming Language Models
AI 导读
研究者提出 STAR，一个改进大语言模型安全红队测试现有最佳实践的社会技术框架。其第一项贡献是增强可控性，为人类红队测试人员生成参数化指令，从而更好地覆盖风险面，并在不增加成本的情况下提供对模型失效的更细致洞察。第二项贡献是提升信号质量，通过匹配人口统计特征来评估针对特定群体的危害，获得更敏感的标注。STAR 还引入新颖的仲裁步骤，利用多元观点提高标签可靠性，将分歧视为对信号质量的有价值贡献而非噪声。