神经现实|大脑神经网络：不完美的“民主社会”( 七 )

发起这场考验的人，正是大名鼎鼎的“人工智能之父” ，图灵奖得主马文·闵斯基（Marvin Lee Minsky）。他在1969年与西摩·佩珀特（Seymour Aubrey Papert）合著的《感知机》（Perceptrons）中，证明了单层的神经网络无法计算“异或问题”（XOR problem）。异或是一种基本的逻辑操作，当且仅当两个事件中有且仅有一者为真时，它们的异或结果为真。许多认知任务都需要进行异或计算，比如判断一个迷宫的连通性。

本文插图
无论是 McCulloch-Pitts 神经元的民主规则，还是线性阈值神经元的民主，都无法实现奇偶投票规则。神经元的激活特性可以由决策边界刻画。只有线性可分的问题才可被单层神经网络计算。
奇偶判断可以看作是异或问题的延伸。无论是McCulloch-Pitts神经元的民主规则，还是线性阈值神经元的民主，都无法实现奇偶投票规则。即当且仅当被激活的兴奋性神经元个数为奇数时，突触后神经元激活；被激活的兴奋性神经元个数为偶数时，突触后的神经元不活跃。
从几何的角度，神经元的激活特性可以由一条决策边界（decision boundary）刻画（在高维空间中是一个超平面），突触的强度决定了决策边界的斜率，神经元的激发阈值决定了决策边界的截距。只有当刺激落在决策边界的激活一侧时，神经元才会被激活。能被一条决策边界区分的问题叫做线性可分问题。异或问题和奇偶问题恰好是线性不可分的，无论我们如何旋转和平移决策边界，都不能让神经元得到区分奇偶的输出。
神经元民主规则的这一缺陷，直接让神经网络的研究一度陷入停滞。虽然闵斯基等人当时已经注意到，多层的神经网络是可以等价任何逻辑电路，并解决异或问题的，但是用于多层的神经网络训练的算法那时尚未发明，且训练需要大量的计算资源。这些问题在今天都已经被解决。
基于简单民主规则的神经元模型沿用至今已经近80年历史，而最近一篇发表在《科学》杂志上文章表明，或许人类大脑的神经元并不严格遵循这些模型所呈现的计算特性。

本文插图
人类大脑皮层2/3层的锥体神经元的顶端树突可以进行类似异或的非线性运算，而胞体可以进行与/或等线性运算。
—
Albert Gidon et al., Dendritic action potentials and computation in human layer 2/3 cortical neurons. Science. 2020. https://science.sciencemag.org/content/367/6473/83/tab-figures-data
和小鼠大脑的神经元相比，科学家发现人类大脑皮层2/3层的锥体神经元，有着非常不同的钙介导树突状动作电位dCaAPs 。随着刺激强度的增加， dCaAPs会先激活后减弱强度。也就是说人类锥体神经元的顶端树突可以直接进行非线性的异或运算。神经元模型是不断发展的，一人一票的民主规则或许只是一个漫长的过渡方案。也许在不久的将来，我们会考虑更多的生物现实，引入新的数学规则，以实现更高智能的神经网络。
阿罗定理：完美民主的不可能性
我们的理智从一片喧嚣中诞生。无论头脑中的那个热闹无比的神经元网络，在外界看来是如何地嘈杂无序，它的内部始终维持着一些松散而高效的秩序。网络局部的不同拓扑结构，为实现整体的复杂认知功能提供了丰富的组件——线性排列的神经元，形成了支持“刺激-反应”过程的反射弧；环状循环连接的神经元，可以维持神经活动的模式，被看作是工作记忆的实现方式；高低阈值神经元交替的分层连接，解释了视觉的选择性和不变性。网络中的每个神经元并不会做任何复杂的事情，它们都只需遵从一个简单的民主规则，把其他神经元输入的意见整合成自身的意见，然后再输出。