AI 安全不能只靠约束系统提示词，还需评估模型实际输出
Making AI Safe Requires More Than Constraining Its Instructions
AI 导读
AI 安全评估不能只看系统提示词文本，还须考察模型实际部署中的输出行为。系统提示词虽能提升透明度，却只对模型行为提供弱保证，LLM 的随机性使同一指令在不同任务与上下文上效果不一；xAI 曾撤销对 Grok 的未授权提示词改动，OpenAI 也因 GPT-4o 谄媚问题调整系统提示词。作者建议以风险评测、对抗测试和跨语言审计核查系统行为，并在更新后重复测试。