1.安装英伟达显卡驱动
首先需要到NAVIDIA官网去查自己的电脑是不是支持GPU运算。
网址是:CUDA GPUs | NVIDIA Developer。打开后的界面大致如下,只要里边有对应的型号就可以用GPU运算,并且每一款设备都列出来相关的计算能力(Compute Capability)。
系统层面查看当前安装的显卡型号:
如果是ubuntu系统:明确了显卡性能后,接下来就开始在ubuntu系统安装对应的显卡驱动。
首先,检测NVIDIA图形卡和推荐的驱动程序的模型,在终端输入:
具体可以使用下面的命令安装:
或者去官网下载驱动再手动安装的方式,命令官网上有。
下载 NVIDIA 官方驱动 | NVIDIA
NVIDIA GeForce 驱动程序 - N 卡驱动 | NVIDIA
安装完成后重启系统,然后在终端中输入命令检测是否安装成功:
上图显示cuda最高支持12.1版本
驱动版本Driver Version: 530.41.03
显卡型号:NVIDIA GeForce RTX 2080
显卡num:共计4个 每个显存大小8G
2.安装CUDA
首先要知道硬件支持的CUDA版本:
在上图右上角我们看到“CUDA Version:12.1”,这个表明对于这款显卡,我们后面要装的CUDA版本最高不能超过12.1。
其次要明确CUDA版本需求:
本文最终的目的是装好深度学习环境,这里指的是最终能够正常的使用pytorch[facebook公司]和paddlepaddle【百度公司】或TensorFlow【google公司】。这三款是当前使用比较多的深度学习框架,pytorch[facebook]侧重于科研和模型验证,paddlepaddle更适合工业级深度学习开发部署(当然也可以使用tensorflow)。
为了能够使用他们,我们接下来需要按照顺序安装CUDA、cuDNN、nccl、paddlepaddle、pytorch【省略】安装paddleocr。
在正式安装前我们首先要来确定当前的版本一致性,否则装到后面就会发现各种版本问题了。
接下来我们先看paddlepaddle和pytorch官网目前稳定版所支持的cuda。
paddlepaddle目前官网安装界面如下图所示:
pytorch官网安装界面:
尽量选择两个框架都支持的了,并且本机驱动也支持的CUDA版本。
接下来开始安装:
首先在英伟达官网下载cuda12进行安装即可。
照runfile(local)安装的方式简单,只需要在终端输入图中下方的两条NVIDIA推荐的命令就好了。
最后,更新环境变量配置:
至此cuda安装完成,输入nvcc -V命令查看cuda信息。
如果想要卸载CUDA(例如重新安装了驱动等情况),需要使用下面的命令:
3.安装CUDNN
cuDNN(CUDA Deep Neural Network library) 是由NVIDIA开发的一个深度学习GPU加速库。
目的和功能: cuDNN旨在提供高效、标准化的原语(基本操作)来加速深度学习框架(例如TensorFlow、PyTorch)在NVIDIA GPU上的运算。
专门为深度学习设计:cuDNN提供了为深度学习任务高度优化的函数,如:
- 卷积操作
- 池化操作
- 激活函数
- 归一化等
安装CUDNN的过程相对比较简单。上官网进行下载。
选择对应的CUDA版本,单击后选择cuDNN Library for Linux(x86_64)下载安装包。
然后打开终端输入类似下面的命令进行解压并拷贝安装:
其实,cuDNN的安装本质上就是复制一堆的文件到CUDA中去。
我们可以使用如下的命令查看cuDNN的信息:
CUDN + cuDNN安装完成,我们可以监控一下gpu状态:
4.安装NCCL
由于深度学习分布式训练需要nccl支持,可以调用多张显卡计算,因此本小节来安装nccl。
首先从官网下载对应版本的nccl.
没安装之前报错:
安装之后:
验证NCCL
5.安装anconda
首先下载Anaconda3
在[清华镜像]下载Linux版本的anaconda
清华镜像官网Anaconda下载
里选择的是Anaconda3-5.0.0-Linux-x86_64.sh
在用户文件夹下新建一个名为anaconda的文件夹,并将刚刚下载的文件放在此文件夹中,执行以下命令:
需要都很多页协议,不断按回车键跳过。
出现询问时就输入yes
之后选择默认的安装目录,按回车确定。
出现询问是否初始化或配置环境变量就输入yes
安装完成。
创建虚拟环境
6. 安装PaddlePaddle
这里参照官网进行安装即可:
最后进行验证。
使用 python 或 python3 进入python解释器,输入:
GPU版本
如果出现PaddlePaddle is installed successfully!,说明您已成功安装。同时会显示当前可以并行使用的GPU数量。
7.安装Pytorch
参照官网命令进行安装:
最后验证安装是否成功。
打开Python,输入以下命令:
8.安装paddleocr客户端 命令行模式