防御arXiv 2610.07935
SIGMA：让模型依据 Model Spec 自我改进安全对齐
提出 SIGMA，让模型依据 Model Spec 自造监督并改进安全对齐
- arXiv
- 2610.07935
- 发表
- 场景
- AI Agent
摘要SIGMA 用 Model Spec 自造监督，单轮训练可迁到多项智能体安全指标。
SIGMA 让 Qwen3.6-27B 只凭 Model Spec 和高层领域，自己生产对齐任务、评分细则和奖励。
提出 SIGMA，让模型依据 Model Spec 自造监督并改进安全对齐
SIGMA 让 Qwen3.6-27B 只凭 Model Spec 和高层领域，自己生产对齐任务、评分细则和奖励。