合成故事训练致助手习得角色行为
AI 导读
新论文： 我们仅用关于人类的合成故事（不含 AI）训练模型。我们发现，Assistant 在普通聊天中会习得故事中的古怪行为。 令人惊讶的是，来自精英学校的角色被习得得更强！为什么会这样？🧵
正文
New paper:
We trained models on synthetic stories about humans only (no AIs).
We found the Assistant adopts quirky behaviors from the stories in ordinary chat.
Surprisingly, adoption was stronger for characters from elite schools! Why does this happen? 🧵