CUDA多版本共存和实时切换


CUDA 是 NVIDIA 发明的一种并行计算平台和编程模型,它通过利用图形处理器(GPU)的处理能力,可大幅提升计算性能。

CUDANvidia 推出的只能用于自家 GPU 的并行计算框架。只有安装这个框架才能够进行复杂的并行计算。主流的深度学习框架也都是基于 CUDA 进行 GPU 并行加速的,几乎无一例外。还有一个叫做 cudnn,是针对深度卷积神经网络的加速库。

CUDA多版本共存和实时切换


1. 多版本共存

多版本共存即系统中可以存在多个版本可供选择使用

  • 今天发现我们程序使用 TF 的代码需要使用 cuda10.1 的版本,但是操作系统已经安装的并没有提供对应的版本。现在的解决方法就是使用在本机系统安装或者使用对应版本的 docker 镜像来安装,但是由于环境时使用源码部署的,所以使用 docker 镜像来安装需要对应的适配,最终选择本机安装。但是如果直接使用命令安装的话,改变已有的环境 CUDA 有可能会影响本机的其他环境,所以决定使用 runfile 的安装方式,实现 CUDA 多版本共存和实时切换。

  • 首先,我们需要在官方的 CUDA 版本库中选择自己需要的 CUDA 版本对应的安装包,这里我们选择 runfile 类型的安装文件进行安装。对应的 官网地址 在这里,点击进入之后如下图所示。

找到需要安装的CUDA版本

下载对应CUDA版本的runfile文件

  • 我们执行对应的下载安装操作命令之后,会在 /usr/local/ 目录下生成一个 cuda-10.1 的目录文件夹。
    • 10.1.243 => 代表 cuda 的版本
    • 418.87.00 => 代表的对应的 NVIDIA 驱动的版本
# 下载对应版本文件
$ wget http://developer.download.nvidia.com/compute/cuda/10.1/Prod/local_installers/ \
    cuda_10.1.243_418.87.00_linux.run

# 执行安装操作
$ sudo sh cuda_10.1.243_418.87.00_linux.run
  • 执行上述安装操作后,稍等一会儿将会出现如下所示的提示信息,我们根据自己的实际需求进行选择。

安装管理器检测到我们本机存在CUDA版本,建议移除现在再继续安装

之后输出一堆协议说明,我们接受即可

选择对应所需的软件,我们这里不需要安装驱动和对应的示例程序等

  • 接下来我们选择最下方的 install 即可开始安装了。但是需要注意的是,Toolkit 对应的路径在 /usr/local/ 下面。安装过程需要选择是否建立软链接时,如果是第一次安装 cuda 则选择 y ,如果是安装额外版本的 cuda 则选择 n,具体选择根据需求而定。
# 建立软链接
# 我们这里多版本共存,所以选择n即可
Do you want to install a symbolic link at /usr/local/cuda?
(y)es/(n)o/(q)uit: n

# 如果选择了y,会出现如下所示的情况
$ ls -lh /usr/local
lrwxrwxrwx  1 root root   19 Jul 15  2018 cuda -> /usr/local/cuda-10.1/
drwxr-xr-x 19 root root 4.0K Jun  5  2019 cuda-10.0/
drwxr-xr-x 14 root root 4.0K Sep 21 22:54 cuda-10.1/
......
  • 安装完成之后,最后会输出提示让我们设置环境变量和对应的,设置之后即可使用了。需要注意的是,我们这是通过 LD_LIBRARY_PATH 变量来控制,坑少点。
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/lib64
export PATH=$PATH:/usr/local/cuda/bin
export CUDA_HOME=$CUDA_HOME:/usr/local/cuda
[email protected]:/usr/local# sh cuda_10.1.243_418.87.00_linux.run
===========
= Summary =
===========

Driver:   Not Selected
Toolkit:  Installed in /usr/local/cuda-10.1/
Samples:  Not Selected

Please make sure that
 -   PATH includes /usr/local/cuda-10.1/bin
 -   LD_LIBRARY_PATH includes /usr/local/cuda-10.1/lib64, or, add /usr/local/cuda-10.1/lib64 to /etc/ld.so.conf and run ldconfig as root

To uninstall the CUDA Toolkit, run cuda-uninstaller in /usr/local/cuda-10.1/bin
Please see CUDA_Installation_Guide_Linux.pdf in /usr/local/cuda-10.1/doc/pdf for detailed information on setting up CUDA.
Logfile is /var/log/cuda-installer.log

2. 多版本切换

主要是使用软链接达到多版本切换的

  • 所谓多版本切换,就是通过软链接来实现的。安装多个 cuda 版后,默认存储在 /usr/local 目录下面。如下图所示,我们看到 cuda 只是一个软链接,它指向我们指定的 cuda 版本。这样的处理方式,我们常常会在前几年看到,主要是为了平滑升级。即使用的是 cuda 而不是 cuda-10.0cuda-10.1 这个样子。
# 软链接方式
$ ls -lh /usr/local
lrwxrwxrwx  1 root root   19 Jul 15  2018 cuda -> /usr/local/cuda-10.1/
drwxr-xr-x 19 root root 4.0K Jun  5  2019 cuda-10.0/
drwxr-xr-x 14 root root 4.0K Sep 21 22:54 cuda-10.1/
......

# 需要切换版本时,执行如下操作
$ sudo rm -rf /usr/local/cuda
$ sudo ln -s /usr/local/cuda-10.0 /usr/local/cuda

3. 注意事项

主要记录 Ubuntu 系统中安装 CUDA 的相关注意事项

  • 我们上面的所有步骤和方法都是使用官方提供的 .run 包单独安装 cuda 服务的,当然我们还可以使用 apt 源自带的软件包来安装,这样更新更加便捷和快速。==> 官方提供的 run 包下载速度感人
    • 有外网的服务器上面我们就直接使用 apt 来安装
    • 在内网的服务器上面我们就直接使用 .run 来安装
$ ubuntu-drivers devices
apt install nvidia-340               # version 340.108-0ubuntu2, or
apt install nvidia-utils-435         # version 435.21-0ubuntu7
apt install nvidia-utils-390         # version 390.138-0ubuntu0.20.04.1
apt install nvidia-utils-450         # version 450.80.02-0ubuntu0.20.04.2
apt install nvidia-utils-450-server  # version 450.80.02-0ubuntu0.20.04.3
apt install nvidia-utils-440         # version 440.100-0ubuntu0.20.04.1
apt install nvidia-utils-418-server  # version 418.152.00-0ubuntu0.20.04.1
apt install nvidia-utils-440-server  # version 440.95.01-0ubuntu0.20.04.1
  • 如果我们使用 apt 的方式安装了 nvidia 驱动,优先用 aliyun 源上的驱动来装,并且禁掉自动更新。
# 禁掉自动更新
$ systemctl stop apt-daily.timer
$ systemctl mask apt-daily.timer

文章作者: Escape
版权声明: 本博客所有文章除特別声明外,均采用 CC BY 4.0 许可协议。转载请注明来源 Escape !