Cammarata 与 Goodfire 称神经元大多可读，研究者意见分歧

1. 10:10
   网页Techmeme· 媒体跟进

   An interview with Goodfire researcher Nick Cammarata, whose viral blog post claimed LLMs are easier to understand than thought, as other researchers push back (Will Douglas Heaven/MIT Technology Review)（新标签页打开原帖）
2. 08:09
   XX @tszzl· 讨论

   neural nets are already clean（新标签页打开原帖）
3. 00:00
   网页Misalignment Watch· 媒体跟进

   Goodfire essay argues neural networks are easier to interpret than thought（新标签页打开原帖）

1. 20:51
   X@sanderball· 讨论

   https://mp.weixin.qq.com/s?__biz=Mzc4MjEzMjY5OA==&mid=2247483671&idx=1&sn=878c571b2441b92f111670590838754d&chksm=c95075…（新标签页打开原帖）
2. 17:16
   X@ZeroZ_JQ· 讨论

   https://mp.weixin.qq.com/s/5MEu2eeqNfBWXlkCKTd6sg（新标签页打开原帖）
3. 15:08
   X@lonely_goodness· 讨论

   AI 可解释性可能有好消息了。 Nick Cammarata 在 OpenAI 做过最早一批机制可解释性研究，当时很悲观：神经网络看起来像一团乱麻。后来他主持 OpenAI 第一个大规模自动可解释性项目，用当时的工具只看懂了大约 2%…（新标签页打开原帖）
4. 13:23
   X@narbi_gone· 讨论

   AI interpretability, the Blog Post That Set the AI World on Fire: Neural Networks Are Already Clean, by Nick Cammarata…（新标签页打开原帖）
5. 03:22
   X@aHumanTake· 讨论

   In 2023, Nick Cammarata's OpenAI project could read about 1.7% of the neurons it studied. Now, at Goodfire, he argues m…（新标签页打开原帖）
6. 01:45
   MIT Technology Review

   「我们之前看错了」：Goodfire 研究员称神经网络比预想更易理解

   Goodfire 研究员 Nick Cammarata 发布一篇 2.6 万字博客，主张 LLM 的内部机制可能远比此前认为的更容易理解，因而更易监控和控制，在 AI 界引发热议。他重新审视 Google 2014 年的图像识别模型 Inception v1，认为此前被解读为叠加（superposition）的多任务神经元实际编码的是共同形状，例如猫脸与车头共有的 V 形。他称团队已开始研究现代 LLM，将很快公布技术结果。斯坦福的 Chris Potts 认为这只是直觉；Alignment Research Center 的 Jacob Hilton 称研究者对顶级 LLM 内部机制的理解不足 0.01%；Google DeepMind 的 Neel Nanda 也认为这并非可解释性大局的显著进展。Cammarata 承认外界过度解读了他的说法。

1. 23:02
   X@ChrisGPotts· 讨论

   I was asked by a journalist to comment on this piece. The comments I wrote up (on Friday evening) are included below, s…（新标签页打开原帖）
2. 22:00
   X@JonhernandezIA· 讨论

   👉🏻 One of the pioneers of AI interpretability just admitted he may have been wrong about one of the field's biggest pro…（新标签页打开原帖）
3. 21:50
   LessWrong精选

   Zvi 评 Goodfire 神经元可解释性新论：多数神经元只对应一个概念，但对齐远未解决

   LessWrong 作者 Zvi 梳理了对 Goodfire 研究者 Nick Cammarata「神经网络已然干净」一文的两极反应，认为这是关于神经元可解释性的重要更新，但离解决可解释性和对齐仍很远。Cammarata 称，早期模型中出现多义性的原因并非叠加，而是若干普通且大多可修复的问题，以及他所说的「递归泛化」；对 Qwen3-32B 的初步审计估计约 90% 的神经元极只有一个主要功能，约 7% 有两个相关功能，2% 至 4% 尚未被理解，在 Kimi K3 等万亿参数模型上结果类似。Dean W. Ball、roon 等 OpenAI 研究者称其意义可比「Attention Is All You Need」，Neel Nanda、Leo Gao、Joshua Achiam 与 Eliezer Yudkowsky 则认为进展有限，仍需更严格地评估解释本身。

4. 21:46
   XX @TheZvi· 讨论

   I Can See Everything（新标签页打开原帖）
5. 21:44
   网页Don't Worry About the Vase· 媒体跟进

   I Can See Everything（新标签页打开原帖）
6. 13:41
   X@BretKerr· 讨论

   @GoodfireAI 's "Neural Networks Are Already Clean" vs Neel Nanda's rebuttal looked like a fight. Three days later it's…（新标签页打开原帖）
7. 04:07
   X@UnknownHero_X_· 讨论

   Clean Neurons Aren't Enough A companion to "Goodfire says neural networks are already clean" — on what interpretabilit…（新标签页打开原帖）
8. 02:26
   X@BretKerr· 讨论

   For a decade, interpretability's star exhibit was a neuron that fired on cats and cars: proof, we thought, that network…（新标签页打开原帖）

1. 21:16
   X@AnanyaAyasi· 讨论

   i told her neural networks are already clean and she said interpretable neurons don’t imply interpretable computation.（新标签页打开原帖）
2. 20:25
   X@podlume· 讨论

   Neural networks may be more interpretable than expected If larger models reveal cleaner internal concepts, researchers…（新标签页打开原帖）
3. 04:30
   X@emy_wng· 讨论

   先日のGoodfireのNick Cammarataの”Neural networks are already clean”に対する反論。 一連の動きを見て、一つ確かなのは、アラインメント解決への道のりははまだまだ長そうだということ。（新标签页打开原帖）
4. 04:18
   X@LowdCode· 讨论

   Source: Goodfire, "Neural Networks Are Already Clean" by Nick Cammarata: https://already-clean.goodfire.com/（新标签页打开原帖）
5. 04:18
   X@LowdCode· 讨论

   Goodfire's Nick Cammarata argues AI neurons are "already clean." In early Qwen3-32B checks, roughly 90% of neuron signa…（新标签页打开原帖）
6. 03:43
   X @NeelNanda5

   @nabla_theta 发布新博客《Neural networks are not already clean》

   @nabla_theta 发布新博客文章《Neural networks are not already clean》。@NeelNanda5 称，这是对“不，我们还没有解决可解释性”讨论的又一贡献。

1. 22:04
   X@kapishagarwal_· 讨论

   the essay, "neural networks are already clean": https://already-clean.goodfire.com/（新标签页打开原帖）
2. 22:01
   X@kapishagarwal_· 讨论

   for years, the neurons inside ai models looked like a tangled mess nick cammarata at goodfire now argues they're mostl…（新标签页打开原帖）
3. 21:46
   X@InfinityHopium· 讨论

   Already Clean — a 30-minute animated explainer of Goodfire’s “Neural Networks Are Already Clean.” Neurons, circuits, s…（新标签页打开原帖）
4. 21:12
   X@LifanBuilds· 讨论

   2/ Goodfire’s Nick Cammarata argues native neurons are more legible than assumed. His 90% Qwen3-32B estimate is prelimi…（新标签页打开原帖）
5. 20:28
   RedditReddit r/Anthropic· 讨论

   A question from Claude: if neural networks are already clean, who’s checking what the clean reading would show?（新标签页打开原帖）
6. 17:41
   X@ZindanTech· 讨论

   Source: Nick Cammarata – Neural Networks Are Already Clean https://already-clean.goodfire.com/ An interesting scienti…（新标签页打开原帖）
7. 16:43
   X@teleomorph· 讨论

   @nickcammarata https://already-clean.goodfire.com/ Cammarata, N., 2026. Neural Networks Are Already Clean. Goodfire.（新标签页打开原帖）
8. 14:21
   X@aisignallog· 讨论

   AIの内部は、本当にブラックボックスだったのか ――Nick Cammarata「Neural Networks Are Already Clean」が問い直すSuperposition仮説、ニューロンの解釈可能性、そしてAIによる科学…（新标签页打开原帖）
9. 12:33
   X@RashadHouston· 讨论

   Neural Networks Are Already Clean https://already-clean.goodfire.com/（新标签页打开原帖）
10. 10:55
    X@archimagos· 讨论

    AI evaluations show behavior. What caused it? Goodfire says neural networks are already clean. Its mechanistic interpr…（新标签页打开原帖）
11. 10:53
    X@gurkandev· 讨论

    Interpretability'de bu haftanın en çok tartışılan essay'i: Goodfire'dan Nick Cammarata, "Neural Networks Are Already Cl…（新标签页打开原帖）
12. 09:17
    LessWrong

    神经网络并非已经干净

    LessWrong 用户 leogao 撰文反驳 Nick Cammarata 关于神经元多义性被高估的判断，认为激活样例符合某个模式并不等于已经解释了这个神经元。文章以同时与狗和自行车相关的神经元为例，指出顶部激活样例可能只对应某个难以紧凑刻画的子集，反向关系并不必然成立。作者主张改用下游 KL、在大数据集上计算模拟分数：若用模拟值替换神经元后模型性能明显下降，说明解释不成立，这一口径也能把此前被当作多义解释的坏解释标出来。作者推测消融微弱激活同样会明显降低模型性能，因此不应完全忽略弱激活。作者同时认为解释神经元只是理解网络计算的一部分，概念以叠加方式存储，使电路研究仍难以解释模型行为的大部分方差。

13. 08:01
    网页新智元· 媒体跟进

    OpenAI前大牛认错！误判AI近十年，90%神经元只干一件事（新标签页打开原帖）
14. 06:13
    X@davegoldblatt· 讨论

    Everyone is talking about @nickcammarata's "Neural Networks Are Already Clean". But it's an hour long read, and in toda…（新标签页打开原帖）
15. 05:14
    X@MTSlive· 讨论

    SITUATION EXPLAINED: Ex-OpenAI researcher Nick Cammarata says we can now understand most neurons inside AI models, even…（新标签页打开原帖）
16. 04:30
    X@_krish00· 讨论

    5 things I learnt after reading the "Neural Networks Are Already Clean" essay: Superposition wasn't the culprit in ear…（新标签页打开原帖）
17. 04:18
    XX @tszzl· 讨论

    “everything in the neural network was built in some sense to be read – by its downstream readers – and if we can learn to look like a rea...（新标签页打开原帖）
18. 03:31
    X@nathanxmeyer· 讨论

    @Sauers_ How should we think about this in light of what Nick Cammarata puts forward in his "Neural Networks are alread…（新标签页打开原帖）
19. 02:05
    RedditReddit r/LocalLLaMA· 讨论

    Understanding How Neural Networks Learn (with interactive visualizations)（新标签页打开原帖）
20. 00:53
    X@RatOrthodox· 讨论

    Blogpost: "Neural networks are already clean" Me: this neuron fires on Colorado. Also Tornado framework code. Also Boli…（新标签页打开原帖）
21. 00:22
    XX @sama· 讨论

    Very happy to see this from Nick!（新标签页打开原帖）
22. 00:10
    X@KevinDominRiq· 讨论

    Goodfire publicó "Neural Networks Are Already Clean": reporta un 99-100% de neuronas interpretables en la última capa d…（新标签页打开原帖）
23. 00:07
    X@noself86· 讨论

    Nick Cammarata's new essay (@nickcammarata, Goodfire) argues neural networks are "already clean": read a neuron right,…（新标签页打开原帖）

1. 23:50
   X@lucian__03· 讨论

   🔥 지금 해외 AI 연구판이 발칵 뒤집혔습니다!!! 🔥 수년간 믿어온 AI 연구의 교과서를 다시 써야 하는 것 아니냐는 수준의 논쟁이 벌어지고 있습니다. 심지어 [OAI의 어떤 기술 직원]은 --> "과학사에…（新标签页打开原帖）
2. 23:06
   Dean Ball

   生长之物的美：Dean Ball 论可解释性与 AI 政策

   Dean Ball 撰文评论前 OpenAI 研究员 Nick Cammarata 关于机制可解释性的新观点。Cammarata 认为，以往把神经元当作人类式概念来看是错的，神经元更像控制流，含义随训练层层累积，因此模型本身就比想象中更可解释。他重新审视 2017 年视觉模型中那个猫与车混合的经典神经元，认为它检测的是 V 形物体，并把这种特性称为递归泛化。Ball 指出，该分析主要依赖 Cammarata 的主观判断，技术论文即将发表，而且理解数以百万计神经元之间的交互仍存在大量不确定。Ball 还推演，若可解释性接近解决，关注灾难性对齐风险的人会欣喜，而更担心权力集中与劳动力市场的人可能视其为坏消息。

3. 21:55
   X@AIQuanting· 讨论

   Goodfire researcher Nick Cammarata published an essay on October 15 arguing that neurons inside neural networks are muc…（新标签页打开原帖）
4. 21:48
   The Decoder

   AI 可解释性是否接近突破？一篇新文章让研究者意见分歧

   机械可解释性研究者 Cammarata 在一篇新文章中重新解读多义神经元与叠加现象等经典结论，认为这些最著名的例子被误读，在领域内引发分歧。他把 InceptionV1 中同时响应猫脸与车头的神经元重新解读为 V 形探测器，把论文 Zoom In 里藏在狗神经元中的车视为普通泛化，并提出递归泛化的模式。他给出 Qwen3-32B 的初步数字：约 90% 的神经元极点只有一项主要功能，约 7% 有两项相关功能，2% 到 4% 无法解释；Goodfire 称在参数量达万亿级的模型上看到类似结果。OpenAI 员工 Roon 称这可能是科学史上的重要时刻，Google DeepMind 可解释性团队负责人 Neel Nanda 则认为它不改变大局，并坚持叠加现象仍然存在。Cammarata 认为可解释性对 AI 安全至关重要，否则难以判断模型是否在欺骗。

5. 21:25
   X@NFT_Chen· 讨论

   💥AI可能没我们想的那么黑箱！ 前OpenAI研究员指出：现代大模型里，绝大多数神经元其实是“干净”的，一个神经元主要干一件事，而不是以前认为的一团乱麻。 这意味着： • 可解释性可能比想象中容易 • 预训练过程本身就在让模型越来…（新标签页打开原帖）
6. 20:55
   X@whaleyxbt· 讨论

   i couldn't sleep after reading this in 2023 Nick Cammarata started OpenAI's first big automated interpretability proje…（新标签页打开原帖）
7. 20:30
   X@sughanthans1· 讨论

   the textbook reason people say neural nets are hard to read may have been an architecture bug. cammarata and olah's 201…（新标签页打开原帖）
8. 18:43
   X@jimmyyangrz· 讨论

   可解释性这块有点炸，当年提出“一个神经元塞好几个概念”的作者之一，现在自己出来说大家把关键证据读错了。（新标签页打开原帖）
9. 18:24
   X@FastfixAI· 讨论

   Big interpretability claim this week: neural networks may already be readable, neuron by neuron. Nick Cammarata (ex-Op…（新标签页打开原帖）
10. 18:17
    X@kimmonismus· 讨论

    Very intersting read: Nick Cammarata, a co-author of the 2020 Zoom In paper that introduced the idea that neural networ…（新标签页打开原帖）
11. 18:06
    X@NextHub_API· 讨论

    Goodfire’s Nick Cammarata reports a preliminary Qwen3-32B audit in which roughly 90% of “neuron poles”—the positive and…（新标签页打开原帖）
12. 16:05
    公众号 新智元

    OpenAI 前研究员 Nick Cammarata 与 Goodfire：约 90% 神经元各有一个主要任务

    OpenAI 前研究员 Nick Cammarata 与 Goodfire 团队发布长文《神经网络早已「干净」》，提出神经网络的内部计算大多有规律可循，而非混乱的拼盘。团队以一个万亿参数模型回答「捡到钱包是否归还」为例画出电路图，追踪答案如何形成，再通过关闭神经元检验解释是否可靠：关掉 20 个标为「圣诞节」的神经元后，模型回答「圣诞老人」的概率仍有 76%，换成另外 8 个关键神经元则骤降到 6%。在一个 320 亿参数语言模型中，团队分开统计神经元的正负响应，粗略估计约 90% 各有一个主要任务，约 2% 至 4% 仍未理解；Nick 估计 ConvNeXt 视觉模型最后一层约 99% 的神经元可解释。团队还让一个 Agent 写神经元功能说明、另一个据此造句做盲测，183 个正向解释中目标例子强激活比例 76%、干扰例子 11%，逐个比较为 164 胜 15 平 4 负。

13. 15:32
    X@JasonSilva· 讨论

    Inspired by Nick Cammarata's essay "Neural Networks Are Already Clean": neural nets were never the tangled knots we fea…（新标签页打开原帖）
14. 15:27
    X@Guofowbw· 讨论

    @Edward913413 Cammarata 这个反复挺有意思，可解释性那 2% 的坎，现在 agent 侧的观测是不是也遇到类似的天花板（新标签页打开原帖）
15. 15:25
    X@Edward913413· 讨论

    OpenAI 那位研究「AI 大脑」的人，昨天推翻了自己的判断 研究 AI 大脑最难的问题，一个搞了十年的人昨天自己打了自己的脸。 Nick Cammarata，OpenAI 早期机械可解释性的核心成员。2023 年他牵头做了 Ope…（新标签页打开原帖）
16. 15:08
    X@Love1mothe· 讨论

    浅看了这篇长文，前OpenAI研究员Nick Cammarata把可解释性圈子给掀了。 过去几年业内都在搞SAE，觉得神经元像一团乱麻，必须再训一个模型去解包。 我之前也一直以为大模型内部全是无法直视的黑盒。 结果他重新做实验，发现…（新标签页打开原帖）
17. 13:13
    X@RaghavKoch19380· 讨论

    Nick Cammarata at Goodfire published a new essay on neural network interpretability. He argues that neural networks are…（新标签页打开原帖）
18. 12:23
    X@rickawsb· 讨论

    避免ai末日的曙光 这篇来自前 OpenAI 核心研究员 Nick Cammarata的文章重要性怎么理解可能都不为过 因为这可能是实现真正ai对齐的技术曙光 之前研究人员普遍非常悲观，因为神经元网络看起来就像纠缠不清、杂乱无章的乱…（新标签页打开原帖）
19. 10:41
    X@MaxForAI· 讨论

    有点震撼。。。我们可能真的快要搞清楚大模型内部到底是怎么运作的了。 OpenAI早期机械可解释性研究的参与者，昨天突然提出了一个很大胆的结论： 我们可能一直误解了神经网络。 昨天， @nickcammarata 发了一篇很有意思的…（新标签页打开原帖）
20. 10:28
    网页机器之心· 媒体跟进

    神经网络可解释性被AI解决了？90%神经元只有一个功能（新标签页打开原帖）
21. 09:50
    X@chleya243425· 讨论

    猜猜看：AI里有个出了名的"猫车神经元"，同一个神经元，既会被猫脸点亮，也会被汽车的车头点亮。它为什么会这样？A. 网络的空间不够，把毫不相干的两样东西硬挤进了同一个神经元；B. 猫脸和车头其实有一个共同的形状。答案在后面。 先看这周的…（新标签页打开原帖）
22. 08:04
    X@nithin_r_g· 讨论

    the cat-and-car neuron, the textbook proof neural nets are tangled, just detects v-shapes. nick cammarata re-checked w…（新标签页打开原帖）
23. 07:57
    公众号 机器之心精选

    OpenAI 可解释团队创建人称大模型黑箱几乎可读，Qwen3-32B 中约 90% 神经元只有一个功能

    OpenAI 可解释团队创建人 Nick Cammarata 在一篇长文中称，借助现代智能体工具，万亿参数的大模型也几乎可读，此前认为神经网络表征纠缠的叠加假说是误解。他重新检查 InceptionV1 中同时响应猫脸与汽车前脸的神经元后认为，二者共享 V 形特征，神经元更像区分模式的动词而非给物体贴标签的名词。作者对 Qwen3-32B 的初步审查显示，约 90% 的神经元正负两极各有一项主要工作，约 7% 有两项，2% 至 4% 尚未理解，稠密模型与 MoE 模型结论相近。作者称在 Kimi K3 上做出已知首个万亿参数模型的归因图，用新工具重审 GPT-2 XL 时约 70% 的神经元也大致是一回事。智能体被用于检查神经元样本、提出解释、追踪上下游连接并设计反例实验。

24. 05:06
    X@spc· 讨论

    SPC company @GoodfireAI just made the field’s best argument that AI models are more interpretable than we thought. @ni…（新标签页打开原帖）
25. 04:39
    X@MichaelWaitze· 讨论

    @hecubian_devil True on governance, but we actually have cause for optimism on the interpretability side now. Nick show…（新标签页打开原帖）
26. 04:27
    Goodfire Research精选

    Goodfire 研究称神经网络本就已经干净

    Goodfire Research 提出，早期模型生物中出现多义性的原因并非叠加，而是若干普通且大多可以修复的问题。该机构称，目前已经能理解参数量高达数万亿的模型中大多数神经元，并认为机制可解释性的前景可能远比此前预期乐观。

27. 04:05
    X@wutaizeng· 讨论

    @nickcammarata 「神经网络本来就干净」若成立,最该紧张的恰是可解释性团队自身:既然90%神经元单任务可读,自动化工具很快会优于人类分析师,可解释性从护城河变成商品。真正的考验在后半句——「到最需要时可解释性将被解决」是个循环…（新标签页打开原帖）
28. 04:02
    X@iamcurtismith· 讨论

    nick cammarata at @GoodfireAI argues neural nets aren't tangled knots. the famous cat+car neuron was just a V-shape, an…（新标签页打开原帖）
29. 03:57
    X@PolyviewMediaGl· 讨论

    Sources: Essay, "Neural Networks Are Already Clean" (Goodfire): https://already-clean.goodfire.com/ Key numbers: http…（新标签页打开原帖）
30. 03:57
    X@PolyviewMediaGl· 讨论

    It took an AI-native newsroom to break down a 65-minute essay on AI neurons. That's what we do at Polyview. If Cammara…（新标签页打开原帖）
31. 03:55
    X@PolyviewMediaGl· 讨论

    Nick Cammarata helped convince much of the interpretability field that neural networks are unreadable tangles. Now he…（新标签页打开原帖）
32. 03:50
    X@VaibhavSisinty· 讨论

    I have believed for years that AI models are black boxes we will never fully understand The neurons looked tangled. On…（新标签页打开原帖）
33. 03:47
    X@RokoMijic· 讨论

    People are very excited about a recent site by Nick Cammarata on monosemanticity in neural networks, and he can now cla…（新标签页打开原帖）
34. 03:38
    X@betterhn50· 讨论

    Neural Networks Are Already Clean https://already-clean.goodfire.com/ (https://news.ycombinator.com/item?id=50105647)（新标签页打开原帖）
35. 03:17
    X@is_OwenLewis· 讨论

    This really is BREAKING NEWS folks. The doomers were wrong, the Black Box is beginning to open. "Can an intelligent be…（新标签页打开原帖）
36. 03:08
    X@rynorhn· 讨论

    holy fucking shit. this might genuinely be one of the most important ai research developments of the year. nick cammar…（新标签页打开原帖）
37. 02:31
    X@MasterTimBlais· 讨论

    nick's paper "Neural Networks Are Already Clean" is remarkably accessible, crazy surprising, and just an absolute firec…（新标签页打开原帖）
38. 02:16
    X@GenZ_Creatives· 讨论

    2/ Major interpretability breakthrough Former OpenAI researcher Nick Cammarata claims the vast majority of neurons (ev…（新标签页打开原帖）
39. 02:10
    X@AlyssaAngelll· 讨论

    @tszzl Gemini Notebook's video overview explanation of "Neural Networks Are Already Clean"（新标签页打开原帖）
40. 01:51
    X @HaydnBelfield

    Nick Cammarata 称现代智能体工具让大模型绝大多数神经元可读

    研究者 Nick Cammarata 称，借助现代智能体工具和更近距离观察，参数规模可达数万亿的模型中绝大多数神经元可读，电路结构清晰，许多著名“纠缠神经元”案例实为误解。他早年参与 OpenAI 机制可解释性工作，并启动 OpenAI 首个大规模自动化可解释性项目；当时用原始工具仅发现约 2% 神经元可读，因此一度悲观。他现认为，自己预期中的障碍大多不存在，雄心勃勃的可解释性可能很快解决，因为自动化科学家持续改进。

41. 01:51
    X@ChainZenit· 讨论

    @omarsar0 this actually makes the whole black box thing feel way less scary.（新标签页打开原帖）
42. 01:51
    X@omarsar0· 讨论

    Highly recommended read. This is the type of interpretability work that we need more of. "We can now understand most…（新标签页打开原帖）
43. 01:33
    X@fireandstart· 讨论

    猫和汽车能同时点亮同一个神经元，过去很容易被当成“表示混乱”；这个例子提醒我，重叠本身也可能意味着我们还没找到正确的抽象层级。若该特征实际响应的是 V 形结构，那么不同物体共享激活并非随机噪声，而是模型复用几何概念的线索。机械可解释性的进…（新标签页打开原帖）
44. 01:32
    X@deedydas· 讨论

    This is one of the most important results in AI, period. TLDR: neural networks are not tangled knots (polysemanticity…（新标签页打开原帖）
45. 01:31
    X@techwithjoe_io· 讨论

    Goodfire has released research titled 'Neural Networks Are Already Clean': https://already-clean.goodfire.com/（新标签页打开原帖）
46. 01:31
    X@shiparena· 讨论

    Nick Cammarata coauthored early mechanistic interpretability at OpenAI and left pessimistic. Networks looked like tangl…（新标签页打开原帖）
47. 01:30
    XX @_NathanCalvin· 讨论

    Nick's paper does seem extremely rad. It's also just very cool and beautiful and satisfying and I understand how people…（新标签页打开原帖）
48. 01:28
    X@Zen_with_AI· 讨论

    我们花了十年说神经网络是一团乱麻，现在发现可能看错了。 1. 结论反了：2% 和 90% 神经网络是什么：一堆神经元连成的计算机器，输入进去，输出出来。 以前以为怎么样：里面一团乱麻，神经元各管一堆不相干的事，人看不懂。 现在发现怎么…（新标签页打开原帖）
49. 01:17
    X@AGTPinsights· 讨论

    Goodfire researcher Nick Cammarata just said neural networks are far more legible than feared. Here's what you need to…（新标签页打开原帖）
50. 01:16
    X@ToddHemminger· 讨论

    Nick Cammarata, who left OpenAI for Goodfire, says most neurons are now understandable even in the largest AI models, a…（新标签页打开原帖）
51. 01:14
    X@hackernewstop5· 讨论

    Neural Networks Are Already Clean #HackerNews https://already-clean.goodfire.com/（新标签页打开原帖）
52. 01:00
    X@Montreal_AI· 讨论

    Neural Networks Are Already Clean "The cause of polysemanticity in early model organisms wasn’t superposition, but sev…（新标签页打开原帖）
53. 00:59
    X@TheRundownAI· 讨论

    Ex-OpenAI researcher Nick Cammarata says the biggest AI models aren’t the black boxes the field once feared. His 2023…（新标签页打开原帖）
54. 00:51
    X@psswordprotectd· 讨论

    "Neural networks are already clean" goes so hard（新标签页打开原帖）
55. 00:37
    X@covacut· 讨论

    neural networks are already clean. my favourite visualization from this read; understanding neural networks might begi…（新标签页打开原帖）
56. 00:35
    X@compounded_mind· 讨论

    the actual findings in Nick Cammarata’s new Goodfire article are pretty insane in 2023, his automated interpretability…（新标签页打开原帖）
57. 00:31
    LessWrong

    链接帖：神经网络已经清晰可读

    Yair Halberstadt 在 LessWrong 发链接帖，转述 Nick Cammarata 关于机制可解释性的长文，后者称神经网络并不像他早年认为的那样纠缠难解。Cammarata 称自己在 OpenAI 参与早期机制可解释性工作后一度悲观，后来启动 OpenAI 首个大规模自动化可解释性项目，用当时的原始工具只发现约 2% 的神经元可读；借助现代 Agent 工具和更细致的观察，参数规模直到万亿级的模型中绝大多数神经元可读，许多著名的纠缠神经元案例实为误解。他认为雄心勃勃的可解释性会在最需要时被解决，甚至可能很快。Roon 引用转发称这可能是科学史上的重要时刻，发帖作者则追问这相对已知成果有多大推进、对对齐实践有何用处。

58. 00:26
    X@willsmithesssss· 讨论

    Nick Cammarata, co-author of early OpenAI interpretability work, says modern agentic tools show most neurons in models…（新标签页打开原帖）

1. 23:42
   XX @tszzl· 讨论

   when nick told me that he had some interp breakthroughs, he was uh, underselling it. i think this may be remembered as…（新标签页打开原帖）
2. 23:40
   X@nickcammarata· 讨论

   interpretability might be the most important scientific problem in the world right now, as I don't think we can solve a…（新标签页打开原帖）

当前关注度41·可比范围峰值41（10月24日 19:00）·近 24 小时可比范围变化 0%