跳到正文
原文
ARC· Eric Neyman·本站收录 · 原文发表

ARC 提出匹配采样原则 MSP,目标是在神经网络输出估计上超越随机采样

Competing with sampling

AI 导读

ARC 正围绕"超越采样"重定向其理论研究议程,目标是比从分布中随机抽样更好地估计灾难检测器期望值 $\mathbb{E}_{x\sim D}[C(M(x))]$,并以此作为防止 AI 失控的对齐路径之一。该团队将其背后的信念半形式化为"匹配采样原则"(Matching Sampling Principle,MSP)。目前已在部分场景取得进展,例如随机 MLP 以及经过训练的两层 MLP。

阅读原文alignment.org