Latent Space·· 3 小时前精选AI 评分78
Goodfire 提出神经网络已足够清晰，可解释性观点引发同行质疑
[AINews] Agents disprove Polysemanticity; greatly improve Interpretability & Alignment
AI 导读
Goodfire 的 Nick Cammarata 发表文章提出，多数神经元是可读的，许多著名的多义性案例被误读，而 2023 年 OpenAI 自动可解释性工作仅发现约 2% 可读。Neel Nanda 表示这未改变他的核心判断，仍认为存在表征叠加，弱激活携带记忆事实；Leo Gao 主张用 KL 衡量的神经元模拟来评判解释。该论文本身尚未发布。
推荐理由
Goodfire 关于神经元可解释性的新论点及其同行质疑，为理解可解释性研究路线分歧提供了具体切口。
来源：Latent Space · latent.space