#走近前沿科学TB#量子纠缠：从量子物质态到深度学习( 三 )

经过多年的摸索实践，人们有一个关键的发现：在参数个数一样的情况下，深层的神经网络比浅层的网络具有更强的表达能力。训练越来越深的神经网络来近似表达复杂的函数形式，是深度学习这个名词中“深度”的来源。当然，神经网络的表达能力也并不是越强越好。过于复杂的网络结构不仅增加了计算量，还可能造成神经网络过拟合(Over-fitting) ，这就是典型的“过犹不及” 。神经网络的表达能力最好是与需要描述的函数的复杂程度相匹配。为此，人们设计出了种类繁多的神经网络结构。很多这些结构设计主要由工程实践经验驱动，这使得深度学习得到了“经验主义”的名声。利用人工神经网络作函数近似的初衷是利用它们的通用性，不需要太多的人为介入就可以自动寻找到数据中的关键特征(Feature) 。可当神经网络结构变得越来越多样之后，面临网络的人为选择问题，我们又回到了起点。
因此，人们迫切需要一些更具指导意义的判别标准，来帮助我们定量化地界定神经网络的表达能力和数据集的复杂程度，以便在不同结构的神经网络之间作出比较和取舍。为此我们需要对于神经网络所表达的对象——现实世界中的多元函数——有更深刻的理解。在我们前面的例子中，虽然所有可能的输入原则上有2N 种，但典型的输入其实通常遵循某一特定分布。关于目标数据分布和函数性质的先验知识(Prior Knowledge)有助于指导我们设计合适的神经网络结构。一个最明显的先验知识就是函数的对称性。比如，在图像识别的例子中，图片的种类与其中物体的具体位置无关。类似地，对于围棋局面的估值对盘面构型也应该具有反演和旋转不变性。在图1(a)的网络中实现这些限制，我们就得到了卷积神经网络(Convolutional Neural Network) 。它使用局域感知区(Local Receptive Fields)扫描整张图片寻找特征，通过不同感知区共享权重来保证函数的不变性。如何发掘和利用更多类似的“先验知识”是深度学习成功的关键。
与上述例子类似，量子物理的研究中也常常使用到函数近似。比如，一个量子自旋体系的波函数无非是一个关于自旋构型的多元函数。和深度学习中的目标一样，我们也希望使用尽量简单的参数化方式和尽量少的参数描述尽可能复杂的波函数。总结一句话，那就是“天网恢恢，疏而不漏” 。图1(c)显示量子多体物理研究中常用的一种参数化波函数的方法：矩阵乘积态(Matrix Product State) 。它的基本组成单元是红色方块所示的三阶张量。竖线代表物理指标，而方块之间的横线则称为“虚拟键”(Vitual Bond) 。横线之间的连接代表对于虚拟键指标的求和。不难猜测，随着虚拟键维数(Vitual Bond Dimension)的增大，矩阵乘积态可以表达关于物理指标愈加复杂的函数。除了增加虚拟键维数，另一种增加矩阵乘积态表达能力的方法是将图1(c)中所示的方块推广成为更高阶的张量，也就是增加虚拟键的个数。将所有虚拟键连接起来，求和完所有的内部张量指标，就得到了前文提到的张量网络态。和深度学习中种类繁多的人工神经网络结构一样，物理学家也发明了很多不同结构的张量网络态以及相对应的算法。然而，和深度学习不同的是，物理学家们对于张量网络的表达能力有着更为定量化的理解：关键在于量子纠缠!切割一个张量网络态所断开的虚拟键的个数和维数与这个网络能够描述的纠缠熵直接相关。而另一方面，虽然量子多体问题的希尔伯特空间非常大，但幸运的是大多数人们感兴趣的量子态只是其中的一个很小的子集。这些态的量子纠缠熵并不是任意的，而是遵循前文提到的面积定律。张量网络态恰好抓住了物理问题的这个重要特性，因而获得成功。在实际研究中，物理学家们通常针对具体物理问题的纠缠大小和模式来灵活选择设计张量网络态结构。在这个意义下，量子纠缠其实就是指引物理学家们应用张量网络研究量子多体问题的“先验知识” 。