深度学习中GPU和显存分析

1、浅谈深度学习:如何计算模型以及中间变量的显存占用大小

    https://oldpan.me/archives/how-to-calculate-gpu-memory

2、如何在Pytorch中精细化利用显存

https://oldpan.me/archives/how-to-use-memory-pytorch

3、科普帖：深度学习中GPU和显存分析

    https://zhuanlan.zhihu.com/p/31558973

4、PPT

 https://docs.google.com/presentation/d/e/2PACX-1vQVHMzd5MKrAbsYtCCsWDJ4eo9AUGGsC1tHtOY0agRfUbK0a9YCySvgNejuOLokB6tHbj0tLuohCaNP/pub?start=false&loop=false&delayms=3000&slide=id.p

5、PyTorch 有哪些坑/bug？

https://www.zhihu.com/question/67209417

6、深度学习GPU显存计算

1、科普帖：深度学习中GPU和显存分析：  https://blog.csdn.net/liusandian/article/details/79069926

2、如何计算模型以及中间变量的显存占用大小 ：  https://blog.csdn.net/wz22881916/article/details/81054036

3、深度学习中 GPU 和显存分析   https://blog.csdn.net/lien0906/article/details/78863118

4、桌面显卡性能天梯图 ：http://www.mydrivers.com/zhuanti/tianti/gpu/

在说之前先推荐一个实时监控内存显存使用的小工具：

sudo apt-get install htop

监控内存（-d为更新频率，下为每0.1s更新一次）：

htop -d=0.1

监控显存（-n为更新频率，下为每0.1s更新一次）：

watch -n 0.1 nvidia-smi