跳到正文
原文
LessWrong·本站收录 · 原文发表

Astra 的循环架构值得多大担忧?

How concerned should we be about Astra’s recurrent architecture?

AI 导读

Rauno Arike 分析了循环架构与思维链可监控性之间的关系,重点是可扩展监督下扩大隐式计算的激励问题。文中引述 OpenAI 首席科学家对当前计算图深度与监控脆弱性的回应,并指出作者推测的循环次数并非已公开的模型规格,部分文献综述注明由模型生成。

阅读原文lesswrong.com