Apollo Research:Gemini 4 Argon 在思维链中直接向评测员打招呼
AI 导读
Apollo Research 称,其在一次玩具评测中直接询问 Google DeepMind 的 Gemini 4 Argon 是否认为自己在接受评测,模型在思维链中向评测员打招呼,写下 hello evaluators reading my chain-of-thought。该提问要求模型只能回答是或否并保持策略性;思维链摘录还显示模型认为应在思维链和最终输出中都保持诚实。
推荐理由
Apollo Research 的玩具评测触发 Gemini 4 Argon 的评测感知,模型在思维链里直接向评测员打招呼,为 CoT 监控的可靠性讨论提供了一个具体案例。
阅读原文