Goodfire 研究员的神经网络可解释性主张为何引发争议

Goodfire 研究员 Nick Cammarata 提出，神经网络可能比此前认为的更容易理解，但多位研究者质疑这一主张能否推广至前沿 LLM。他重新检查 Inception v1，发现同时响应汽车与猫的神经元可能识别的是共同的 V 形，而非叠加了无关概念。其团队计划公布现代 LLM 的技术研究结果；批评者强调，理解单个神经元不等于理解神经元组成的回路，目前仍缺乏严格评估。