这篇文章主要介绍了pytorch对梯度进行可视化进行梯度检查的示例分析，具有一定借鉴价值，感兴趣的朋友可以参考下，希望大家阅读完这篇文章之后大有收获，下面让小编带着大家一起了解一下。

成都创新互联公司坚持“要么做到，要么别承诺”的工作理念，服务领域包括：网站设计制作、成都网站设计、企业官网、英文网站、手机端网站、网站推广等服务，满足客户于互联网时代的义乌网站设计、移动媒体设计的需求，帮助企业找到有效的互联网解决方案。努力成为您成熟可靠的网络建设合作伙伴！

目的： 在训练神经网络的时候，有时候需要自己写操作，比如faster_rcnn中的roi_pooling，我们可以可视化前向传播的图像和反向传播的梯度图像，前向传播可以检查流程和计算的正确性，而反向传播则可以大概检查流程的正确性。

实验

可视化rroi_align的梯度

1.pytorch 0.4.1及之前，需要声明需要参数，这里将图片数据声明为variable

im_data = Variable(im_data, requires_grad=True)

2.进行前向传播，最后的loss映射为一个一维的张量

pooled_feat = roipool(im_data, rois.view(-1, 6))
res = pooled_feat.pow(2).sum()
res.backward()

3.注意求loss的时候采用更加复杂，或者更多的运算（这样在梯度可视化的时候效果才更加明显）

可视化效果

原始图片

梯度可视化图片

原图+梯度图

小结：

可以看到误差梯度的位置是正确的，误差是否正确，需要其他方式验证（暂时没有思路）

可以看到上面在求loss的时候为：loss = sum(x2)，但是如果换成：loss = mean(x)，效果就没有上面明显。

实验二的效果

loss = mean(x)

可以看到根本无法看到误差梯度的位置信息

实验三：loss = sum(x)

小结： 可以看到位置信息有差别，比如国徽部分，这会让人以为，国徽部分只利用了左部分的信息，或者自己手写的操作误差索引不对。

可以通过两种方式进行验证

1.用更多，更复杂的运算求loss，比如pow，等

2.用matplotlib显示图片后，用鼠标可以指示每个点的具体的值，可以检测有误差梯度区域是否和无误差梯度区域有差别。

感谢你能够认真阅读完这篇文章，希望小编分享的“pytorch对梯度进行可视化进行梯度检查的示例分析”这篇文章对大家有帮助，同时也希望大家多多支持创新互联成都网站设计公司，关注创新互联成都网站设计公司行业资讯频道，更多相关知识等着你来学习!

另外有需要云服务器可以了解下创新互联scvps.cn，海内外云服务器15元起步，三天无理由+7*72小时售后在线，公司持有idc许可证，提供“云服务器、裸金属服务器、网站设计器、香港服务器、美国服务器、虚拟主机、免备案服务器”等云主机租用服务以及企业上云的综合解决方案，具有“安全稳定、简单易用、服务可用性高、性价比高”等特点与优势，专为企业上云打造定制，能够满足用户丰富、多元化的应用场景需求。

新闻名称：pytorch对梯度进行可视化进行梯度检查的示例分析-创新互联
文章地址：http://lswzjz.com/article/ddpsji.html