深度解析神经网络中每个神经元的使命 | MIT朱俊彦&港中文周博磊力作( 五 ) 作者|李科雨编辑|陈大鑫我们都

尽管对四个样本的插值方式一样，在结果中，每个门的情况并不一样：在1-3中，新生成的门具有合适于当下语境的大小，风格和位置，而在4中，当“门单元”在树上激活的地方，图像中并没有出现新的门。
下图展示了在不同地方激活“门单元”的时候结果的敏感度，在某些位置，门可以轻易地被添加上，例如在窗户上，而在天空和树上，添加门几乎是不可能的。
文章插图
通过研究无监督图像生成问题，一个GAN网络可以学习生成类似于门和树之类的物体，不仅如此，通过神经单元，它还学习到了有效的计算结构，使得它能够有效阻止在无意义的位置上渲染出某些物体，比如在树上以及天空上渲染出一个门出来。
3 实际应用
对分类器的对抗攻击的分析在图像分类器对对抗攻击的敏感性领域的研究很活跃，为了将攻击的过程可视化来更好地理解，作者指出，相关研究者可以研究这些攻击在重要物体检测器上的影响。
在下图中，经过Carlini–Wagner优化方法，一个被准确分类滑雪胜地图像被攻击成了“卧室” ，这个攻击算法计算了一个微小的扰动，而当此微小的扰动被加入之后，结果图像在肉眼完全无法和原图区别开的同时，被错误分类为了卧室，是不是很神奇？
文章插图
为了更好的理解这个攻击是如何具有如此强大的威力，研究人员分别研究了滑雪胜地和卧室中最重要的四个神经单元，下图将原图和对抗攻击之后神经单元的激活情况做了可视化：
文章插图
结果显示，通过降低对雪，山脉，房屋和树的检测以及增加床，人物头部，沙发检测器的活跃程度，此攻击成功戏耍了分类网络（尽管实际情况是，这些物体并没有在图片中出现）。
下图显示了，受到攻击之后，改变最大的单元，就是那些对某些类别最重要的那些单元。
文章插图
使用GAN的语义绘画除了在对抗攻击上的应用，理解神经单元的作用之后，通过直接操控神经单元，研究者还可以创造一个可以控制神经网络的交互接口。
MIT&港科大团队将这个方法应用在GAN上，创造了一个交互绘画应用。与使用色板进行绘画不同的是，这个应用可以令人们直接使用高层视觉概念画板进行创作。每个视觉概念都和具有最大IoU的神经单元相关。
下图展示了该交互接口：
文章插图
当用户添加一个物体的概念的时候，对应的神经单元得到了激活，反之，当用户在擦出物体的时候，对应的神经单元被置零。
下图展示了当用户添加一个物体时的一个典型结果：
文章插图
GAN在像素级别的细节上，能够做巧妙的处理，使得场景保证了真实性。多种改变的组合可以得到创造性的效果。
研究人员还放出了图片绘画编辑的动态效果：
文章插图
详细的demo可以访问网站.获得哦！
另外，要想进一步了解本文使用的数据集，测试网络和参考模型，可以去原文一探究竟。
最后，周博磊本人也在知乎上分享了本文研究背后5年的一系列曲折复杂又精彩的故事：《一个神经元的价值和一个神经病的坚持》，欢迎大家阅读。
传送门：
文章插图
文章插图

深度解析神经网络中每个神经元的使命 | MIT朱俊彦&amp;港中文周博磊力作( 五 )

深度解析神经网络中每个神经元的使命 | MIT朱俊彦&港中文周博磊力作( 五 )