Cammarata 称神经网络非黑箱，约九成神经元单一功能

OpenAI 可解释团队创建人 Nick Cammarata 发布长文，认为神经网络并非纠缠的黑箱，多义性可能被误读，可解释性有望被解决。他称在 Qwen3-32B 中约 90% 的神经元各有一项主要工作，并重新检查 InceptionV1 的猫脸与汽车前脸案例，认为该神经元实际响应的是 V 形等形状规律，还提出递归泛化解释神经元的分支式生长。 Cammarata 称，90% 这一数字取决于激活阈值以及如何界定“一项工作”。他同时表示，这仍不是“可解释性已经解决”的宣言，注意力机制、完整模型审计，以及如何把理解转化为可靠的安全改进，都有大量工作待做。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。