说神经网络是个黑箱，大致有两层意思。一个是说，我们不能刻画网络具体是在做什么（比如在每一层提取什么样的特征）。另一个是说，我们不知道它为什么在做这些，为什么会有效。回答前一个问题就是研究神经网络的“可解释性”。不过在俺看来后者更重要，更本质。
有些人似乎认为，这两个问题都不重要。一种思潮是说只要好用就行，管它为什么工作、怎么工作的。还有一种思潮是认为这两个问题都是根本回答不了的。俺以为，这两种观点都是短视的。
深度学习显然是做对了something, 在某个角度触碰到了真理，但如果不打开黑箱，我们无法知道它到底做对了什么，真理是什么。在牛顿之前，大家都见到了苹果落地。但在当时人们的视角中他们一定认为，苹果落地不是很自然的吗，需要解释、需要知道为什么吗？当时的人们也会认为解释这种现象简直无从下手。跟今天的深度学习有点像吧？但是当牛顿告诉我们为什么苹果会落地之后，世界从此就不一样了。
今天的机器学习在某种意义上好像物理学。深度学习目前就好比实验物理，有很多实验观察，但没有理论能够解释。也跟物理学的发展一样，实验总是走在前面。没有Michelson／Morley 的实验观察，也就没有爱因斯坦的狭义相对论。
如果感兴趣深度学习的科研，你可以选择成为下一个 Michelson／Morley， 也可以选择成为下一个爱因斯坦。当然，大多数人都是坐在树下吃那些天经地义要掉下来的苹果，呵呵。
还在学习中，继续加油吧！有需要的话，可以看我名字一起拼课或者互相分享。
