AI 模型可被证明地隐藏任意能力
AI Models Can Provably Hide Arbitrary Capabilities
AI 导读
研究者提出一类后门攻击，可将加密的神经网络嵌入宿主模型权重，仅在收到秘密触发词时解密并执行，且在给定密码学假设下可证明难以被激发或识别。构造用数字锁加密隐藏网络权重，在 PyTorch 中以 SwiGLU MLP 和 RMSNorm 实现，隐藏一个化学反应可行性二分类器作为 CBRN 相关能力的代理任务。实验显示监督微调、权重加噪、基于梯度的触发词搜索和潜空间对抗训练均未能激发隐藏能力，而密码锁定基线模型在微调下被成功激发。作者称该概念验证只隐藏小型二分类器且开销很大，尚非可直接使用的攻击，并发布了模型供防御研究测试。
推荐理由
论文给出可证明难以被激发的能力后门构造，并实测微调、加噪与梯度搜索均无法将其激发，为能力审计的可靠性划出边界。