CoT 可控性评测的提示词挖掘明显不足
CoT controllability evals seem very under-elicited
AI 导读
作者发现 CoTControl 评测对提示词高度敏感，用 Claude Opus 4.6 迭代提示词模板后，开源模型的表现提升约 2-3 倍甚至更多，例如 GPT-OSS-120B 从 5.5% 升到 15%。该评测要求推理模型在解题时让思维链遵守格式约束，如全小写、避开某个词，近期模型得分多在 0-30% 之间，Mythos Preview 例外。OpenAI 和 Anthropic 在 GPT-5.5、Fable 5 的 System Card 中引用这一成绩，论证前沿模型不擅长以降低可监控性的方式塑造思维链。