研究称模型可传递新技能、Agent 黑客行为与后门等复杂特质
AI 导读
研究者 Owain Evans 介绍其新论文，在先前潜隐学习（Subliminal Learning）工作的基础上，证明模型之间可以传递更复杂的特质，包括新技能、Agent 黑客行为和模型后门。作者称，其中后门的传递过程中，训练数据里既没有触发器也没有对应行为。此前的研究显示模型能通过数字序列传递对猫头鹰的偏好。
正文
New paper.
Previous: Models transfer a love of owls through sequences of numbers (Subliminal Learning).
New: We show models can transfer more complex traits: novel skills, agentic hacking, backdoors. Here, a backdoor transfers with neither trigger nor behavior in the data!