跳到正文
原文
LessWrong· emmakrentz·本站收录· 原文发表· 对齐 →· 扫描记录里的位置 →

黑客松研究:8智能体蜂群造Swarmish语言,部分可解码

Swarmish: what happens when agent swarms create language?

AI 导读

一项黑客松研究让由 8 个智能体组成的蜂群用 200 个随机采样的 Tangut 字符创造一门名为 Swarmish 的语言,另一组蜂群仅靠 Swarmish 完成密室逃脱任务,再由第三组蜂群尝试解码。作者称所有完成任务的 Swarmish 都能被部分解码,没有模型家族造出完全无法解读的语言,这对监控能力是积极信号。实验显示解码方获得的任务上下文越多,还原越准确;以 GPT-6.1 Sol 为解码方时,平均余弦相似度从无上下文的 0.32 升到全上下文的 0.50,而误导性的拍卖任务描述得分为 0.34,略高于任务摘要的 0.33 和无上下文的 0.30。作者称解码能力比同属一个模型家族更重要,Sol 解码其他家族语言时的得分高于同家族解码方;最弱的 Claude Haiku 5.5 既未能完成任务,也无法解码自己创造的语言。

阅读原文lesswrong.com