大家好,又见面了,我是你们的朋友全栈君。
Anaconda 可以使tensorflow的安装变的简单
昨天tensorflow 开发者大会刚开完,会上发布了关于 TensorFlow 2.0,TensorFlow Lite,TensorFlow.js,Swift for TensorFlow,TFX 等产品生态体系的最新更新和首次发布的内容,2019年仍会支持tensorflow1.x,但是我们相信,版本的升级会带来易用性和使用性能的提升,特别是tensorflow1.x 开发api的混乱,有slim、tf.layers, tf.contrib 后期版本有tf.keras ,还有读数据方式,都特别麻烦,所以本文章基于linux系统提供安装方法(Windows系统安装anaconda以后也可以使用该教程)。
插播:很荣幸本文于2020年11月5日被Tensorflow官方社区收录,欢迎去社区逛逛
1. 首先安装anaconda
这个直接官网去下载就可以了,可以是安装anaconda 或miniconda,我选择miniconda,这样不会把大量用不到的python包都安装了,而是根据需求,后期自己安装。
下载miniconda ,基本一路回车安装完成就可以,然后配置下载源来使⽤国内镜像加速下载:
(时代在变化,社会在发展,anaconda不再有国内的加速镜像,所以以下添加清华源的命令就不要执行了!!,用默认的官方源也是可以使用的,更改于2019年7月2日 )清华源又可以用了
#优先命名用清华conda 镜像
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forge/
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/
conda config --append channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/fastai/
conda config --append channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/pytorch/
conda config --append channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/bioconda/
# 搜索时显示通道地址
conda config --set show_channel_urls yes
2. 创建一个环境
用来安装tensorflow2.0以及相关的python packages.
#加上cudatoolkit and cudnn这样不论你的机器原来装的是否合适,都可以用tensorflow2.0gpu版本
conda create -n tf2 python=3.6
3. 激活创建的环境
安装tensorflow2.0
#激活环境
source activate tf2
#对于GPU版的安装,为保证不论原始linux环境是什么样的都可以安装,如果原系充已经符合,以下命令不用执行
conda install cudatoolkit=10 cudnn=7.6 #目前tf2.0不支持cuda10.1(对应cudnn7.6),官网要求cuda=10,cudnn>7.4
#对于CPU版本,上边这行命令是不需要执行的
#接下来安装tensorflow 有多种情形
conda install tensorflow #安装tensorflow cpu稳定版本
conda install tensorflow-gpu#安装ensorflow gpu稳定版本
#使用这前可以使用 conda serach tensorflo 或conda search tensorflow-gpu来查询都有那些版本
#可以初装指定版本 conda install tensorflow=1.5 tensorflow 1.5版本
#如果安装错了可以使用conda uninstall tensorflow卸载后再重新安装
#接下来是要安装是新的tensorflow版本,conda环境使用pip同样生效
pip install tf-nightly #cpu 版本
pip install tf-nightly-gpu#GPU版本
#本人网上查了具体的版本
pip install tf-nightly-2.0-preview#Install tf 2.0 preview CPU version
pip install tf-nightly-gpu-2.0-preview#Install tf 2.0 preview GPU version
关于conda安装cuda和cudnn,当nvidia发布新的cuda和cudnn版本时,conda还无法安装较新版本,只有旧版本。此时的解决方法是:
conda search cudatoolkit -c conda-forge
conda search cudnn -c conda-forge
#选择conda-forge 来搜索,会获得较新版本的cuda和cudnn
对于cudnn同理。
以下于2019年7月2日更新部分,最近tensorflow2.0的由alpha到了beat版本,所以更新一下最新的安装方法(基础环境的搭建不变)
pip install --upgrade pip
pip install --upgrade tensorflow==2.0.0-beta1 #只是CPU版本
pip install --upgrade tensorflow-gpu==2.0.0-beta1#GPU 版本的
#关于测试安装是否成功的测试,与原来是一样的
#会输出2.0.0-beta1
于2019年8月24日再更,今早tensorflow再次更新:
pip install tensorflow==2.0.0rc0 # cpu version
pip install tensorflow-gpu==2.0.0rc0 #gpu version
#最近有了更新rc1版本更新,日期没有记
pip install tensorflow==2.0.0rc1 # cpu version
pip install tensorflow-gpu==2.0.0rc1 #gpu version
#tensorflow rc2版本更新于2019年9月25日,感觉正式版很快就要来了
#安装方法同上,更新内容参见https://github.com/tensorflow/tensorflow/releases/tag/v2.0.0-rc2
#卸载旧版
pip uninstall tensorflow-gpu
pip install tensorflow-gpu==2.0.0rc2
rc的release candidate的意思,基本上是最后的可用于生产的版本,但仍然是测试。感觉有好多特性都有更新,具体的更新内容参见github上官方文档
以上就完成了tensorflow2.0的安装
2019年10月1日更新:tensorflow2.0版本正式发布,安装方法:
pip install --upgrade pip
pip install tensorflow-gpu==2.0.0
2019年10月25日更新,从今天开始,conda支持安装tensorflow2.0,有点小舒服。
conda search tensorflow #搜cpu版
conda search tensorflow-gpu#搜GPU版
#大家可以按需安装
conda install tensorflow-gpu=2.0.0 #各种必备包自动安装,
用conda 安装最好,可以判断所有安装包的版本间的兼容性,如果能安装那么肯定是兼容的。
官网cuda和cudnn要求如下:
linux上驱动要大于410.x,cuda版本只能是10,cudnn版本要大于7.4.
2020年1月10日再更,tensorflow2.1正式发布,有几点更新:
- pip默认安装GPU版本,也就是说pip install tensorflow 与pip install tensorflow-gpu相同
- tensorflow2.1 支持 cuda 10.1和cudnn 7.6,也就是说在以后可以在同一个环境中同时安装tensorflow(2.1),pytorch(1.3.1),mxnet(1.5.1),因为这三深度学习库都支持cuda 10.1.
具体安装方法:
conda create -n dl python=3.6
conda activate dl
conda install cudatoolkit=10.1 cudnn=7.6
pip install tensorflow-gpu #安装tensorflow
pip install torch===1.3.1 torchvision===0.4.2 -f https://download.pytorch.org/whl/torch_stable.html
pip install mxnet-cu101 #三个深度学习库都初装成功
pip install jupyterlab pandas matplotlib pydot scikit-learn seaborn scikit-image opencv-contrib-python
发现个问题,用pip安装的tensorflow2.1需要一个 libnvinfer.so的文件,这个是tensorrt的东西,不装tensorrt会报错:
按照官方教程安装一下就可以,我是用的tar包安装的,版本tensorrt6.其中
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:<TensorRT-${version}/lib>
这个命令写到当前用户.bashrc中就可以,然后source一下(如果用deb包安装可以省去改变环境变量这个工作)。
再次进入dl环境,所有pip 安装的内容都不用加sudo.
到此,使用这三个深度学习库都是没有什么问题的。
import tensorflow as tf
import torch
import mxnet as mx
from mxnet.runtime import feature_list
print(mx.test_utils.list_gpus())
print(feature_list())
#会输出:[✔ CUDA, ✔ CUDNN, ✔ NCCL, ✔ CUDA_RTC, ✖ TENSORRT, ✔ CPU_SSE, ✔ CPU_SSE2, ✔ CPU_SSE3, ✔ CPU_SSE4_1, ✔ CPU_SSE4_2, ✖ CPU_SSE4A, ✔ CPU_AVX, ✖ CPU_AVX2, ✔ OPENMP, ✖ SSE, ✔ F16C, ✖ JEMALLOC, ✔ BLAS_OPEN, ✖ BLAS_ATLAS, ✖ BLAS_MKL, ✖ BLAS_APPLE, ✔ LAPACK, ✔ MKLDNN, ✔ OPENCV, ✖ CAFFE, ✖ PROFILER, ✔ DIST_KVSTORE, ✖ CXX14, ✖ INT64_TENSOR_SIZE, ✔ SIGNAL_HANDLER, ✖ DEBUG, ✖ TVM_OP]
print(torch.cuda.is_available())
print(torch.backends.cudnn.version())
print(tf.test.is_gpu_available())
可以看到,三个深度学习库都 可以使用GPU,标红的地方有一个是我们提前安装的包。
#在tensorflow2.1验证是否有gpu进,系统提示deprecated
tf.test.is_gpu_available()#不用了
tf.test.is_built_with_cuda()#是否支持NVIdia GPU
tf.test.is_built_with_rocm()#是否支持AMD的显卡
tf.test.is_built_with_gpu()#NVIDIA或AMD是否有一家的支持
另外,安装tensorrt需要pycuda,所以还要安装有几个额外包,这样在conda环境中才可以用pip安装pycuda.
conda install -c nvidia nvcc_linux-64=10.1
conda install -c conda-forge cudatoolkit-dev=10.1
执行这两个命令才可以安装pycuda
pip install pycuda
如果cudatoolkit是从Nvidia官网下载后按照这里所述方式安装的,上边这两条命令是不需要的。
再次补充
最近遇到一些其它问题,安装cuda10没报错但是tensorflow不能使用,这是因为系统显卡驱动太低,不匹配比较新的cuda10,唯一需要做的就是更新显卡驱动。每个版本的cuda都有显卡驱动的最低要求,如下表(参考官网说明):
可以看到,cuda10的最低版本的要求是410.48。查看原系统的显卡驱动的方法是在shell中输入: nvidia-smi(原系统安装有cuda toolkit才会有该命令)
本人电脑上当前版本是384.98,最高可安装cuda版本是9.0,而cuda9最高支持到tensorflow1.12。
cuda版本与tensorflow版本对应关系如下表(参考官网说明):
显卡驱动安装或更新以及cuda toolkitt和cudnn的系统完装方法参见博客。
2020年5月7日更新
今天,tensorflow2.2正式版发布,更新内容参见github,另外,Keras官网改版了,界面全新,更加接近tf2,可以快乐的学习了。
tensorflow2.2安装方法:
conda create -n dl python=3.7
conda activate dl
conda install cudatoolkit=10.1 cudnn=7.6.5
#tensorflow的安装也方便没啥警告
pip install tensorflow-gpu -i https://pypi.douban.com/simple
#到目前(2020年5月7日)最新的pytorch gpu版本也可以安装
pip install torch==1.5.0+cu101 torchvision==0.6.0+cu101 -f https://download.pytorch.org/whl/torch_stable.html -i https://pypi.douban.com/simple
2021年5月25日更新
随着tf2.x版本的逐渐更新发布,安装方法整体思路可以参考上文,最主要的是显卡驱动的更新,配套cuda版本的更新,cudnn的更新,python版本的要求(这个建议不要选择最新的,除非从源码安装),按照本文的内容,不难找到相关版本要求及安装方法,因此,在没有大的改动时,本文将暂时保持稳定。未来有大的变动时,会进行更新。
4. 测试是否安装成功
有两种方法
- 方法一:
import tensorflow as tf
print(tf.__version__)
#输出'2.0.0-alpha0'
print(tf.test.is_gpu_available())
#会输出True,则证明安装成功
- 方法二:
#输入python,进入python环境
import tensorflow as tf
#查看tensorflow版本
print(tf.__version__)
#输出'2.0.0-alpha0'
#测试GPU能否调用,先查看显卡使用情况
import os
os.system("nvidia-smi")
#调用显卡
@tf.function
def f():
pass
f()
#这时会打印好多日志,我电脑上还有warning,感觉不影响
#再次查询显卡
os.system("nvidia-smi")
可以对比两次使用情况
建意两种测试方法都试一下,有时第一种方法成功,真正建模型进行训练时确会报错,所在最好都试一下。
好了,测试使用的过程也完成了,小伙伴们可以玩起来呀
这里顺便提一下用来tensorflow 学习的资源
- 吴恩达的课程cousera上会有一系列课程,会在2019年逐步完成TensorFlow: From Basics to Mastery
- udacity 上的课基于Tensorflow的深度学习Intro to TensorFlow for Deep Learning 这个也要可以上外网
- Cousera伦顿帝国理工学院的tensorflow2 入门,这们课是2020年1月左右发布的
- Cousera上伦顿帝国理工学院的tensorflow2深入课程,这们课是2020年3月左右发布的
- 简单粗暴 TensorFlow 2,这是tensorflow官方指定的中国的教程,还是不错的。
引用文章
1 https://docs.anaconda.com/anaconda/user-guide/tasks/tensorflow/
2 https://medium.com/tensorflow/test-drive-tensorflow-2-0-alpha-b6dd1e522b01 需要科学上网
3 https://docs.nvidia.com/cuda/cuda-toolkit-release-notes/index.html
4 https://www.tensorflow.org/install/source#install_python_and_the_tensorflow_package_dependencies
发布者:全栈程序员-用户IM,转载请注明出处:https://javaforall.cn/148882.html原文链接:https://javaforall.cn
【正版授权,激活自己账号】: Jetbrains全家桶Ide使用,1年售后保障,每天仅需1毛
【官方授权 正版激活】: 官方授权 正版激活 支持Jetbrains家族下所有IDE 使用个人JB账号...