使用 gpu 加速的问题

第一次接触 gpu 的版本,用的是 tf1.8,服务器上 cuda 预安装是 8.0 的。一开始不知道还要装 cuDNN 就直接用了,GPU 查看了确实是在使用,但是计算速度并不理想。

后来发现 cuDNN 没有安装就装了个 7.0 的,发现计算速度并没有改善。
我想知道 tf1.8+cuda8.0+cudnn7.0 这个组合是否存在问题?我看有人说 tf1.8 只支持 cuda9.0。
谢谢各位


kaede1993, 2018-8-2 11:08:47

tf1.8 只支持 cuda9.0。


敬畏代码 发表于 2018-8-2 13:08:26

这样的,其实我不太清楚 gpu 加速和 cuda 还有 cudnn 的关系,您能帮我捋一捋吗?
我现在装的 cuda8.0 但是 gpu 也确实在加速运算(我设置 tf.device (’/cpu:0’) 之后运算速度确实变慢了),
意思是 cuda 是用于进一步优化 gpu 运算,然后 cudnn 则是专门设计来加速神经网络运算的。
我这样理解对吗?谢谢


kaede1993 发表于 2018-8-2 13:13:28

cuda 类似于 GPU 端的 C/C 语言,装好了以后,程序将具备【运行在 GPU】的能力,cudnn 是 NVIDIA 官方发布的神经网络加速库,TF、Pytorch 等深度学习框架底层都是调用这个库,我理解它能够【让 DL 程序运行的更快】


HiJacker,2018-8-5 15:41

要看下你的计算瓶颈在哪里。可以跑个 profiler

https://towardsdatascience.com/h … orflow-1a49fb18073d


舟 3332 发表于 2018-8-6 23:39:40

cuda 是 gou 加速的,cudnn 是专门用来在神经网络算法里用的,比如你的 tf 用到了这个算法,cudnn 就会有效加速些,一定要注意 cuda 与 cudnn 的版本匹配。现在 tf 支持 cuda9.0,别下错了。


明河 发表于 2018-8-29 00:11:38

如果你已经安装成功了,你的问题应该不在 cuda 上。需要看看你的程序是如何分配的,还有就是给 gpu 分配的内存问题


TF_master 发表于 2018-8-30 17:39:56

静观其变,正在尝试用 GPU 版


py_flow 发表于 2018-9-12 23:38:57

学到了,,tensorflow 还是 profile。。。。吓到了哈哈哈


ViolinSolo 发表于 2018-9-13 12:52:09