OpenAI开源了这些用于可视化神经网络的框架( 二 ) Microscope和Lucid库是OpenAI开源堆

使用Lucid可视化神经元只需要调用render_vis操作即可。
# Visualizing a neuron is easy!_ = render.render_vis(model, "mixed4a_pre_relu:476")
文章插图
另外， Lucid产生了不同类型的可视化，可以帮助解释层和神经元：
· 目标：您希望模型可视化什么？
· 参数化：您如何描述图像？
· 转换：您希望可视化对哪些转换具有鲁棒性？
以下代码将具有特定目标的神经元可视化。
# Let's visualize another neuron using a more explicit objective:obj = objectives.channel("mixed4a_pre_relu", 465)_ = render.render_vis(model, obj)
文章插图
Microscope和Lucid库都是模型可解释性方面的重大改进。理解特征和神经元关系的想法是发展我们对深度学习模型的理解的基础，而诸如Microscope和Lucid之类的版本是朝正确方向迈出的坚实一步。
【OpenAI开源了这些用于可视化神经网络的框架】(本文由闻数起舞翻译自Rishit Dagli的文章《OpenAI's Open Sourced These Frameworks to Visualize Neural Networks》，转载请注明出处，原文链接：)