神经现实|大脑神经网络：不完美的“民主社会”( 二 )

我们从过去经验中学习的能力，大多归功于神经元之间突触连接的可塑性。
这两个原则，在大脑的结构和功能之间搭起一座桥梁。只要知道神经元之间的突触连接，我们就可以从某种程度上解释大脑是如何一步一步地处理信息的。不同的局部连接结构赋予了大脑不同的功能；这些结构中持续的电信号，构成了我们的行为和体验，比如速记一串电话号码；这些突触连接的动态变化，给予了认知系统迭代进步的能力，比如学习新技能。
谢灵顿反射弧（Sherrington‘s reflex arc）可能是最早把突触连接和功能联系起来的模型，可以被视作最早的“神经网络” 。动物反射行为通常由从感觉神经元到运动神经元的一系列突触链执行，这种特殊的链状神经结构被叫做反射弧。一个完整的反射弧通常包括五部分：感受器负责从环境接受信息，传入神经将信息传导至神经中枢，再由传出神经将反应返回到效应器。如果用计算图表示，反射弧就是一个包含五个节点的路径，每个节点被激活的顺序反映了刺激到反应的一系列因果关系。
“现代神经科学之父”卡哈尔（Santiago Ramón y Cajal）的学生德诺（Rafael Lorente de Nó）提出了循环的突触连接可能是中枢神经系统的基本结构。和反射弧的开放结构不同，突触环（synaptic loops）是一条闭合的链，从而使神经活动的模式得以保持。谢灵顿的学生格雷厄姆·布朗（Graham Brown）在研究脊髓的节律性时也提出，一些神经活动有可能在大脑的内部生成，而不依赖于即时的刺激-反应关系。反射弧在被外界刺激之前是不活跃的，但是因为环状突触结构和内部生成的神经活动，大脑的活动可以不依赖于外界刺激。进一步，唐纳德·赫布（Donald Hebb）在1949年提出的“细胞集结理论”（cell assembly theory）认为不同的神经元集群构成了神经系统的基本功能单元，并讨论了突触可塑性的形式。神经元之间反复的突触通讯，可以强化它们之间的连接，从而形成德诺说的能够保持神经活动的突触环。
赫布、德诺、布朗、谢灵顿等人的想法，最终通过数学抽象为神经网络。最著名的两类基本模型，就是感知机（perceptrons）和联想记忆网络（associative memory networks）。感知机模型常常被用来解释视觉系统是如何识别物体，而联想记忆网络则试图解释大脑是如何存储和提取信息的。

本文插图
- Matt Chinworth -
1957年由弗兰克·罗森布拉特（Frank Rosenblatt）提出的感知机模型，是对谢灵顿反射弧概念的数学抽象与推广。和反射弧一样，信息在网络中的流动也是单向的，即从输入到输出。但与反射弧不同的是，感知机允许许多输入汇聚到单个神经元，也允许单个神经元有多个输出。感知机也可以看作是单层的前馈神经网络（feedforwad networks）。在前馈神经网络中，突触连接不允许形成环链。
联想记忆网络往往带有回路和环链，今天被归类为循环神经网络（recurrent networks）或者回馈神经网络（feedback networks）。而感知机模型则非常适用于研究大脑对外界刺激的即时响应。在人工智能技术大行其道的今天，用于图像识别的人工神经网络，多数类似于原始的感知机模型；而用于阅读理解的网络，则往往包含了许多循环结构来维持工作记忆。

本文插图
百花齐放的人工神经网络模型，大多模型都是从感知机和联想记忆网络演化而来。
—
Fjodor van Veen ， https://towardsdatascience.com/the-mostly-complete-chart-of-neural-networks-explained-3fb6f2367464