机器学习笔记 - 基于pytorch、grad-cam的计算机视觉的高级可解释人工智能
阿里云国内75折 回扣 微信号:monov8 |
阿里云国际,腾讯云国际,低至75折。AWS 93折 免费开户实名账号 代冲值 优惠多多 微信号:monov8 飞机:@monov6 |
一、pytorch-gradcam简介
Grad-CAM是常见的神经网络可视化的工具,用于探索模型的可解释性,广泛出现在各大顶会论文中,以详细具体地描述模型的效果。Grad-CAM的好处是,可以在不额外训练的情况下,只使用训练好的权重即可获得热力图。
1、CAM是什么?
CAM全称Class Activation Mapping,既类别激活映射图,也被称为类别热力图、显著性图等。它是一张和原始图片等同大小图,该图片上每个位置的像素取值范围从0到1,一般用0到255的灰度图表示。可以理解为对预测输出的贡献分布,分数越高的地方表示原始图片对应区域对网络的响应越高、贡献越大。
一般将原始图像和CAM激活图像叠加到一起,得到颜色深浅不一的可视化图像,如下图所例:
或者更加酷炫一点,也许可以用在ppt上。
提取添加的全连接层对于映射到Australian terrier类的参数(W1,W2,,Wn),用这个参数去加权最后一个