草庐IT

神经网络中的可视化

一粒西林 2024-07-22 原文

1. Zetane Viewer（上传ML模型，一键可视化）

神经网络在工作的时候，里面到底是什么样？

为了能透视这个“AI黑箱”中的过程，加拿大蒙特利尔一家公司开发一个3D可视化工具Zetane Engine。只需要上传一个模型，Zetane Engine就可以巡视整个神经网络，并且还可以放大网络中的任何一层，显示特征图，看清流水线上的每一步
在这里插入图片描述

参考：

微信文章：https://mp.weixin.qq.com/s/PMdG5hknfz7k9OB6Gad-4A
GitHub源码下载：https://github.com/zetane/viewer
bilibil官方视频讲解：https://www.bilibili.com/video/BV1UR4y1M7xo
bilibili博主介绍：https://www.bilibili.com/video/BV1BP411H71a（配套up主的一些答疑）
bilibili笔记：https://www.bilibili.com/read/cv15291682

2. Grad-CAM：梯度类激活图(Gradient-weighted Class Activation Mapping)

它是CAM(Class Activation Mapping)的升级版，通过Grad-CAM我们能够绘制出如下的热力图（对应给定类别，网络到底关注哪些区域）。

pytorch-grad-cam提供了对模型训练可视化的工具，支持CNN、Vision Transformers，图像分类、目标检测、分割、图片相似性等。可作为一个python可视化工具包，安装如下：

pip install grad-cam

参考：

论文地址：https://arxiv.org/abs/1610.02391
GitHub代码（pytorch）：https://github.com/jacobgil/pytorch-grad-cam
bilibili讲解视频：https://b23.tv/1kccjmb

3. Wandb：深度神经网络可视化工具包

可以用来可视化模型训练中的log文件数据，有点类似于tensorboard

博文（介绍了包的部署，登录以及使用方法）：https://blog.csdn.net/qq_41664845/article/details/125203439

4. Netron（跟Zetane 类似，但是不支持可视化特征图）

netron提供了两种运行方式：

第一种是以软件的方式安装netron，然后打开软件载入模型，下载地址见github主页https://github.com/lutzroeder/netron。

第二种是将netron作为python库进行安装，在python代码调用netron库来载入模型进行可视化。 可以通过 pip install netron进行安装。

第三种，如果你既不想安装netron软件，也不想安装netron库，netron作者很贴心地做了一个在线demo网站，可以直接上传模型文件查看可视化结果。网站链接https://netron.app。网站页面如下：

参考：

博文：https://blog.csdn.net/weixin_38346042/article/details/119643579
知乎：https://zhuanlan.zhihu.com/p/431445882
博文：（如何用netron可视化pytorch模型）：https://blog.csdn.net/weixin_43863869/article/details/121915379

5. deepvis（深度学习可视化盒子）

作者网站：https://yosinski.com/deepvis
论文地址：https://yosinski.com/media/papers/Yosinski__2015__ICML_DL__Understanding_Neural_Networks_Through_Deep_Visualization__.pdf
GitHub代码：https://github.com/yosinski/deep-visualization-toolbox
youtube演示视频：https://yosinski.com/deepvis#toolbox

6. nn_vis

一款神经网络可视化工具，采用了新的3D可视化技术，，可以呈现这样的效果：


它能够创建神经网络模型，还可以通过参数设置，得到不同的呈现形式；并且，根据参数重要性的评估结果，对神经网络进行剪枝，从而简化模型；同时，还可以对神经网络绑定过程实现可视化。

这些功能是怎样实现的呢？

nn_vis利用神经网络优化领域的已有方法，采用批标准化、微调以及特征提取，评估训练后的神经网络不同部分的重要性。再结合边绑定、光线跟踪、3D impostor和特殊的透明技术等，得到神经网络的3D模型，证明了评估结果的有效性。

参考：

博文（详细说明）：https://baijiahao.baidu.com/s?id=1693548448632387511&wfr=spider&for=pc
GitHub源码：https://github.com/julrog/nn_vis

7. Conx（可视化工具包）

Python 的一个第三方库 conx 可以通过函数net.picture() 来实现对带有激活函数网络的可视化，可以输出图片格式包括 SVG, PNG 或者是 PIL。

参考

官方文档：https://conx.readthedocs.io/en/latest/index.html

8. GraphCore

主要是展示神经网络中操作的可视化结果，但也包括了网络结构的内容，比如每层的网络参数等。
下面展示了两个网络结构的可视化效果–AlexNet 和 ResNet50：

参考：

官网：https://www.graphcore.ai/posts/what-does-machine-learning-look-like

9. Neataptic

Neataptic 提供了非常灵活的神经网络可视化形式：

  • 神经元和突触可以通过一行代码进行删除；
  • 没有规定神经网络的结构必须包含哪些内容

这种灵活性允许通过神经进化（neuro-evolution）的方式为数据集调整网络结构的形状，并通过多线程来实现。
其效果如下图所示：

参考：

官网：https://wagenaartje.github.io/neataptic/

10. TensorSpace

TensorSpace 是通过 TensorFlow.js，Three.js 和 Tween.js 构建的一个神经网络三维可视化框架。它提供了 APIs 来构建深度学习网络层，加载预训练模型以及在浏览器中就可以生成三维的可视化结构。通过应用它的 API 接口，可以更直观地可视化和理解通过 TensorFlow、Keras 和 TensorFlow.js 等构建的任何预训练模型。
效果图：

参考：

官网：https://tensorspace.org/
教程：https://www.freecodecamp.org/news/tensorspace-js-a-way-to-3d-visualize-neural-networks-in-browsers-2c0afd7648a8/

11. Netscope CNN Analyzer

一款基于 web 端的可视化和分析卷积神经网络结构（或者是任意有向无环图），当前支持使用 Caffe 的 prototxt 形式。
效果如下图所示：

参考：

官网：http://dgschwend.github.io/netscope/quickstart.html

12. Monial

计算图的交互式表示法，展示例子如下所示，左边是输入，右侧就是对应结构的可视化结果。

参考：

GitHub源码：https://github.com/mlajtos/moniel

13. Quiver（也是可视化工具包）

Keras 的一款交互式可视化卷积特征的一个工具
展示例子如下所示：

安装方式：

方式一：

pip install quiver_engine

方式二：

pip install git+git://github.com/keplr-io/quiver.git

参考：

GitHub源码：https://github.com/keplr-io/quiver

14. 还有一些是单纯的二维的网络可视化

参考：https://zhuanlan.zhihu.com/p/147462170

神经神经网络xffhttpsxff1apython深度学习

有关神经网络中的可视化的更多相关文章

  1. ruby - 如何从 ruby​​ 中的字符串运行任意对象方法？ - 2

    总的来说，我对ruby​​还比较陌生，我正在为我正在创建的对象编写一些rspec测试用例。许多测试用例都非常基础，我只是想确保正确填充和返回值。我想知道是否有办法使用循环结构来执行此操作。不必为我要测试的每个方法都设置一个assertEquals。例如:describeitem,"TestingtheItem"doit"willhaveanullvaluetostart"doitem=Item.new#HereIcoulddotheitem.name.shouldbe_nil#thenIcoulddoitem.category.shouldbe_nilendend但我想要一些方法来使用

  2. ruby - 其他文件中的 Rake 任务 - 2

    我试图在一个项目中使用rake，如果我把所有东西都放到Rakefile中，它会很大并且很难读取/找到东西，所以我试着将每个命名空间放在lib/rake中它自己的文件中，我添加了这个到我的rake文件的顶部:Dir['#{File.dirname(__FILE__)}/lib/rake/*.rake'].map{|f|requiref}它加载文件没问题，但没有任务。我现在只有一个.rake文件作为测试，名为“servers.rake”，它看起来像这样:namespace:serverdotask:testdoputs"test"endend所以当我运行rakeserver:testid时

  3. ruby-on-rails - Ruby net/ldap 模块中的内存泄漏 - 2

    作为我的Rails应用程序的一部分，我编写了一个小导入程序，它从我们的LDAP系统中吸取数据并将其塞入一个用户表中。不幸的是，与LDAP相关的代码在遍历我们的32K用户时泄漏了大量内存，我一直无法弄清楚如何解决这个问题。这个问题似乎在某种程度上与LDAP库有关，因为当我删除对LDAP内容的调用时，内存使用情况会很好地稳定下来。此外，不断增加的对象是Net::BER::BerIdentifiedString和Net::BER::BerIdentifiedArray，它们都是LDAP库的一部分。当我运行导入时，内存使用量最终达到超过1GB的峰值。如果问题存在，我需要找到一些方法来更正我的代

  4. ruby-on-rails - Rails 3 中的多个路由文件 - 2

    Rails2.3可以选择随时使用RouteSet#add_configuration_file添加更多路由。是否可以在Rails3项目中做同样的事情？ 最佳答案 在config/application.rb中:config.paths.config.routes在Rails3.2(也可能是Rails3.1)中，使用:config.paths["config/routes"] 关于ruby-on-rails-Rails3中的多个路由文件，我们在StackOverflow上找到一个类似的问题

  5. ruby-on-rails - Rails - 一个 View 中的多个模型 - 2

    我需要从一个View访问多个模型。以前，我的links_controller仅用于提供以不同方式排序的链接资源。现在我想包括一个部分(我假设)显示按分数排序的顶级用户(@users=User.all.sort_by(&:score))我知道我可以将此代码插入每个链接操作并从View访问它，但这似乎不是“ruby方式”，我将需要在不久的将来访问更多模型。这可能会变得很脏，是否有针对这种情况的任何技术？注意事项:我认为我的应用程序正朝着单一格式和动态页面内容的方向发展，本质上是一个典型的网络应用程序。我知道before_filter但考虑到我希望应用程序进入的方向，这似乎很麻烦。最终从任何

  6. ruby-on-rails - Rails 3.2.1 中 ActionMailer 中的未定义方法 'default_content_type=' - 2

    我在我的项目中添加了一个系统来重置用户密码并通过电子邮件将密码发送给他，以防他忘记密码。昨天它运行良好(当我实现它时)。当我今天尝试启动服务器时，出现以下错误。=>BootingWEBrick=>Rails3.2.1applicationstartingindevelopmentonhttp://0.0.0.0:3000=>Callwith-dtodetach=>Ctrl-CtoshutdownserverExiting/Users/vinayshenoy/.rvm/gems/ruby-1.9.3-p0/gems/actionmailer-3.2.1/lib/action_mailer

  7. ruby-on-rails - Rails 应用程序中的 Rails : How are you using application_controller. rb 是新手吗？ - 2

    刚入门rails，开始慢慢理解。有人可以解释或给我一些关于在application_controller中编码的好处或时间和原因的想法吗？有哪些用例。您如何为Rails应用程序使用应用程序Controller？我不想在那里放太多代码，因为据我了解，每个请求都会调用此Controller。这是真的？ 最佳答案 ApplicationController实际上是您应用程序中的每个其他Controller都将从中继承的类(尽管这不是强制性的)。我同意不要用太多代码弄乱它并保持干净整洁的态度，尽管在某些情况下ApplicationContr

  8. ruby-on-rails - form_for 中不在模型中的自定义字段 - 2

    我想向我的Controller传递一个参数，它是一个简单的复选框，但我不知道如何在模型的form_for中引入它，这是我的观点:{:id=>'go_finance'}do|f|%>Transferirde:para:Entrada:"input",:placeholder=>"Quantofoiganho?"%>Saída:"output",:placeholder=>"Quantofoigasto?"%>Nota:我想做一个额外的复选框，但我该怎么做，模型中没有一个对象，而是一个要检查的对象，以便在Controller中创建一个ifelse，如果没有检查，请帮助我，非常感谢,谢谢

  9. ruby - rspec 需要 .rspec 文件中的 spec_helper - 2

    我注意到像bundler这样的项目在每个specfile中执行requirespec_helper我还注意到rspec使用选项--require，它允许您在引导rspec时要求一个文件。您还可以将其添加到.rspec文件中，因此只要您运行不带参数的rspec就会添加它。使用上述方法有什么缺点可以解释为什么像bundler这样的项目选择在每个规范文件中都需要spec_helper吗？ 最佳答案 我不在Bundler上工作，所以我不能直接谈论他们的做法。并非所有项目都checkin.rspec文件。原因是这个文件，通常按照当前的惯例，只

  10. ruby-on-rails - active_admin 目录中的常量警告重新声明 - 2

    我正在使用active_admin，我在Rails3应用程序的应用程序中有一个目录管理，其中包含模型和页面的声明。时不时地我也有一个类，当那个类有一个常量时，就像这样:classFooBAR="bar"end然后，我在每个必须在我的Rails应用程序中重新加载一些代码的请求中收到此警告:/Users/pupeno/helloworld/app/admin/billing.rb:12:warning:alreadyinitializedconstantBAR知道发生了什么以及如何避免这些警告吗？ 最佳答案 在纯Ruby中:classA

随机推荐