神经网络要从原子抓起:原来白花花的银子才是神经芯片的未来
这里的挑战是在于,如何从大量的输出信号里面找出正确的输出值并对其进行解码,以及如何找出编码信息的最佳方式使得该网络能够理解输入信号。解决问题的办法就是对设备进行训练:反复运行一项任务成百上千次,先用一种类型的输入训练,然后再换另一种输入,最后找出哪种输出最适合解决问题。
Gimzewski表示:“我们不必对设备进行编程,但我们要选择最好的方式来对信息编码,从而使该网络能够向正确的方向运行。”
在即将发布的论文中,研究人员训练了一个能够执行简单逻辑运算的银丝网络。而在尚未公开的实验中,他们训练该网络了执行一项类似于T迷宫记忆测试的任务。该测试是小白鼠们在实验室中经常被训练去做的,只要对迷宫的光线变化做出正确的反应,它们就能得到奖励。经过这项训练的银丝网络,其响应的准确率达到94%。
银质神经网络(左),将其嵌入到芯片中心的神经元芯片(右),神经元芯片仍然保持了方形网格的外壳,允许用户将信号作为输入并可以测量输出信号
Nugent表示,到目前为止,这些结果仅仅是证明了神经元芯片原则上的可行性。一个能在迷宫中做出决定的小白鼠还是很初级的,跟人们在传统电脑上用机器学习所做的复杂决策没法比。Nugent比较怀疑该实验芯片能在短短几年内出现应用上的大飞跃。
但他强调,其中的潜力巨大。这是因为,像大脑这样的网络无需将记忆和处理分开执行,而传统电脑则需要不断处理这两大功能区域之间的信息交换。额外的通讯功能就需要额外的能量来为电路供电。Nugent表示,“如果在传统电脑上模拟人脑的全部功能,可能全法国的电能都不够你消耗,这里考虑的还只是中等分辨率的大脑模拟。”而如果银丝网络的效果能达到当前机器学习算法的程度,它的能耗可能仅需当前的十亿分之一。“只要能达到这样的计算效果,它们在能耗方面绝对完胜传统电脑。”
加州大学洛杉矶分校的研究结果同时也支持这样的观点:在正常的情况下,智能系统可以通过自组织的形式整合成一个完整的系统,而不需要任何模板或者事先的过程去设计。作为该项目的早期支持者,原DARPA项目主管Todd Hylton表示,银丝网络的成形完全是自发的:“在能量流经它的时候,很关键的一点是每次形成新的结构,能量都不会流失到其他地方。当前的计算机模型的神经网络需要设计很久才能存储某些临界状态,而银丝网络自己就能生长出相似的功能,完全不需要设计。”
Gimzewski坚信,如果用于复杂系统过程的预测,银丝网络的效果可能要比传统电脑好很多。传统计算机用方程对现实世界进行建模,只是相对而言更加接近,并不是完全准确。具有原子开关的神经元芯片利用自身的复杂性与其正在构建的模型相匹配。此外,他们的处理速度本身也相当快速,网络的状态可以以每秒几万次的波动改变。Gimzewski说:“我们在做的事就是创造一个真正的复杂系统,再用它观察复杂的现象”。
今年早些时候,在美国化学学会举办于旧金山的会议上,Gimzewski、Stieg及其同事介绍了该项目的一个实验结果。他们搜集了洛杉矶连续六年的车流量数据,并将前三年的每小时的车流量以脉冲的形式输入到神经元芯片中进行训练。经过数百次以后的训练,最终它很好地预测出后三年车流量的趋势,尽管它以前从未接触过这个问题和数据。
Gimzewski开玩笑说,“将来有一天,我也许该用这个网络来预测股市。”这就是为什么他拼命让学生来这个原子开关网络——万一某一天他真被华尔街挖走了,他的研究也有人接班。
作者 | Andreas von Bubnoff
原文地址:
http://www.quantamagazine.org/a-brain-built-from-atomic-switches-can-learn-20170920/
长按下方二维码 免费订阅!
C2
如何加入学会
注册学会会员:
个人会员:
关注学会微信:中国指挥与控制学会(c2_china),回复“个人会员”获取入会申请表,按要求填写申请表即可,如有问题,可在公众号内进行留言。通过学会审核后方可在线进行支付宝缴纳会费。
单位会员:
关注学会微信:中国指挥与控制学会(c2_china),回复“单位会员”获取入会申请表,按要求填写申请表即可,如有问题,可在公众号内进行留言。通过学会审核后方可缴纳会费。
学会近期活动
1.中国指挥与控制学会第二次全国会员代表大会
2017年12月6日
长按下方学会二维码,关注学会微信
感谢关注
- 英特尔Nervana神经网络处理器架构更新:带宽超越Tbps
- 神经网络和深度学习简史(全)
- 深度 | 理解神经网络中的目标函数
- 人工神经网络完爆人类的6大领域:看车都能预测选举
- 捧杯 | 乔球王正式加冕 原子蚂蚁率队问鼎大联盟
- ACS Nano:金属所等在原子尺度准一维导电材料重要进展!
- 三图流|这就是原子弹扣篮?
- TensorFlow神经网络教程
- 最新的望远镜可以深入观测星系的“原子”
- 卫计委连发数文后,这几个科室真要从医院大规模消失了!