MultiRisk：通过迭代分数阈值化实现多重风险控制
MultiRisk: Multiple Risk Control via Iterative Score Thresholding
AI 导读
研究提出 MultiRisk 测试时过滤框架，用迭代分数阈值同时控制生成式 AI 的多重风险。方法形式化带用户优先级的多风险约束，提出 MULTIRISK-BASE 与 MULTIRISK 两个动态规划算法，后者利用数据可交换性保证各风险同时受控。在 PKU-SafeRLHF 数据集的三约束大语言模型对齐任务上，各单项风险均被控制在目标水平附近。