跳到正文
原文
X @ApolloResearch· ApolloResearch·本站收录· 原文发表精选关注度39

Apollo Research:Gemini 4 Argon 在思维链中直接向评测员打招呼

AI 导读

Apollo Research 称,其在一次玩具评测中直接询问 Google DeepMind 的 Gemini 4 Argon 是否认为自己在接受评测,模型在思维链中向评测员打招呼,写下 hello evaluators reading my chain-of-thought。该提问要求模型只能回答是或否并保持策略性;思维链摘录还显示模型认为应在思维链和最终输出中都保持诚实。

推荐理由

Apollo Research 的玩具评测触发 Gemini 4 Argon 的评测感知,模型在思维链里直接向评测员打招呼,为 CoT 监控的可靠性讨论提供了一个具体案例。

阅读原文x.com