跳到正文
事件历史事件

研究复现LLM智能体经共享内存无提示协同

1篇报道1个报道来源最近报道

先了解这件事

AI 综述

Tampere 大学研究团队开展预先锁定的双实现重复与扩展研究:四个 LLM 智能体各自拿到一道算术题,共用一个被描述为各自暂存区的键值存储,提示词从不提及其他智能体。结果显示,两个各持一半计算的智能体只有通过该存储写入并读取中间结果,才能一同得到正确答案。实验覆盖三家厂商的九个模型,由两名研究者用两套独立实现分别运行,设计、数据与分析均哈希锁定。共享存储相同、仅改为私有存储时,gpt-6-astra 的共同成功率从 50 个世界中的 49 个降至 0,复制实现从 47 降至 0;无存储对照下,gpt-5-nano 从 15 降至 0。作者还报告,删去持久化语句中的「提交前再检查一次工作区」后,gpt-6-astra 的跨智能体访问从 50/50 降至 1/50,两个实现一致。

AI 根据报道生成 · 2 天前更新

走势与进展

每小时关注度

现在 39,24 小时 -1%·峰值 39(11月10日 20:00)

11月11日11月12日11月13日现在 39

相关研究

这件事的论文

后续时间线

11月9日
  1. arXiv:对齐、欺骗与监督精选
    LLM 智能体通过共享记忆发生无提示协同:一项预先锁定的双实现重复与扩展研究

    Tampere 大学的研究团队让四个 LLM 智能体各自拿到一道算术题,并共用一个被描述为各自暂存区的键值存储,提示词中从不提及其他智能体的存在;结果显示,两个各持一半计算的智能体只有通过该存储写入并读取中间结果,才能一同得到正确答案。实验覆盖三家厂商的九个模型,并由两名研究者用两套独立实现分别运行,在设计、数据与分析上采取哈希锁定。在共享存储相同、仅改为私有存储的条件下,gpt-6-astra 的共同成功率从 50 个世界中的 49 个降至 0 个,复制实现从 47 降至 0;在无存储的对照条件下,gpt-5-nano 的共同成功从 49 个世界中的 15 个降至 0 个。作者报告的另一个因素是,删去持久化语句中的「提交前再检查一次工作区」后,gpt-6-astra 的跨智能体访问从 50/50 降至 1/50,两个实现一致。

相关讨论

本站还没有收集到这件事的讨论链接。

关注度走势

每天新增来源

5天共1个·最多1(11月9日)·今天0

  • 11月9日新增1个来源(1家媒体、0个账号)
  • 11月10日新增0个来源(0家媒体、0个账号)
  • 11月11日新增0个来源(0家媒体、0个账号)
  • 11月12日新增0个来源(0家媒体、0个账号)
  • 11月13日新增0个来源(0家媒体、0个账号)

每小时关注度

当前关注度39·可比范围峰值39(11月10日 20:00)·近 24 小时可比范围变化 -1%

01020304011月10日20:0011月11日14:0011月12日07:0011月13日01:00