总结 27 类深度学习主要神经网络:结构图及应用( 四 )


  • 基于梯度算法学习速度慢
  • 迭代调优所有参数
极限学习机随机选择隐藏节点 , 然后通过分析确定输出权重 。 因此 , 这些算法比一般的神经网络算法更快 。 另外 , 在极限学习机网络中 , 随机分配的权重通常不会更新 。 它只需一步就能学会输出权重 。
应用:
  • 分类
  • 回归
  • 聚类
  • 稀疏逼近
  • 特征学习
23. 回声状态网络(Echo State Network (ESN))
总结 27 类深度学习主要神经网络:结构图及应用文章插图
ESN是循环神经网络的一个子类型 。 这里每个输入节点接收到一个非线性信号 。 在 ESN 中 , 隐藏的节点是稀疏连接的 。 隐节点的连通度和权值是随机分配的 。 在ESN上 , 最终的输出权重是可训练更新的 。
应用:
  • 时间序列预测
  • 数据挖掘
24. 深度残差网络(Deep Residual Network (DRN))
总结 27 类深度学习主要神经网络:结构图及应用文章插图
具有多层结构的深层神经网络训练很难 , 且需要花费大量的时间 。 它也可能导致结果退化 。 深度残差网络即使有很多层也可以防止结果退化 。 使用残差网络 , 其输入的一些部分会传递到下一层 。 因此 , 这些网络可以相当深(它可能包含大约300层) 。
应用:
  • 图像分类
  • 目标检测
  • 语义分割
  • 语音识别
  • 语言识别
25. Kohonen网络(Kohonen Networks (KN) )
总结 27 类深度学习主要神经网络:结构图及应用文章插图
Kohonen 网络是一种无监督算法 。 Kohonen 网络也称为自组织映射 , 当我们的数据分散在多个维度 , 而我们希望它只有一个或两个维度时 , 这非常有用 。 它可以认为是一种降维的方法 。 我们使用 Kohonen 网络可视化高维数据 。 他们使用竞争学习而不是纠错学习 。
各种拓扑结构:
  • 矩形网格拓扑
  • 六边形网格拓扑
应用:
  • 降维
  • 水质评价与预测
  • 沿岸水资源管理
26. 支持向量机(Support Vector Machines (SVM)):
总结 27 类深度学习主要神经网络:结构图及应用文章插图
支持向量机神经网络是支持向量机和神经网络的混合算法 。 对于一组新的样本 , 它总是试图分为两类: 是或否(1或0) 。 支持向量机通常用于二分类 。 这些通常不被认为是神经网络 。
应用:
  • 人脸检测
  • 文本分类
  • 分类
  • 生物信息学
  • 手写识别
27. 神经图灵机(Neural Turing Machine (NTM)) :
总结 27 类深度学习主要神经网络:结构图及应用文章插图
神经图灵机结构包含两个主要组件:
  • 神经网络控制器
  • 记忆库
【总结 27 类深度学习主要神经网络:结构图及应用】在这个神经网络中 , 控制器通过输入和输出向量与外界进行交互 。 它还通过与记忆矩阵交互来执行选择性读写操作 。 图灵机被认为在计算上等同于现代计算机 。 因此 , NTM通过与外部存储的交互 , 扩展了标准神经网络的能力 。
应用:
  • 机器人
  • 制造人造大脑
希望你喜欢这篇关于神经网络主要类型的概述 。 如果你有任何反馈 , 或者有什么需要修改或重新审视的地方 , 欢迎在评论中补充 。
References:
[1] Activation Function | Wikipedia | en.wikipedia.org/wiki/A
[2] The perceptron: a probabilistic model for information storage and organization in the brain | Frank Rosenblatt | University of Pennsylvania | ling.upenn.edu/courses/
[3] Frank Rosenblat’s Mark I Perceptron at the Cornell Aeronautical Laboratory. Buffalo, Newyork, 1960 | Instagram, Machine Learning Department at Carnegie Mellon University | instagram.com/p/Bn_s3bj
[4] Backpropagation | Wikipedia |
原文:
声明:部分内容来源于网络 , 仅供读者学习、交流之目的 。 文章版权归原作者所有 。 如有不妥 , 请联系删除 。