1、下载CUDA
前往NVIDIA官网https://developer.nvidia.com/cuda-toolkit-archive，选择和NVIDIA显卡驱动版本相适应的CUDA版本，我这里选择12.1.1版本。
使用快捷键Ctrl+Alt+T打开终端，输入以下指令下载.run文件，下载完成后的文件默认保存在Downloads/文件夹之下。
wget https://developer.download.nvidia.com/compute/cuda/12.1.1/local_installers/cuda_12.1.1_530.30.02_linux.run
2、安装CUDA
使用Files文件管理软件进入到Downloads文件夹，右键Open in Terminal在终端打开路径。运行以下指令开始安装CUDA
sudo sh cuda_12.1.1_530.30.02_linux.run 等待页面跳转，在新的页面，使用上下键移动光标，使用Enter键选择Continue。之后，输入“accept”
重点来了！！！在这个界面，使用空格或者Enter键，取消选择Driver，即让方括号中没有X，然后移动光标到Install，使用Enter键进行安装。如果这里不取消Driver，会覆盖安装NVIDIA驱动，会导致诸如黑屏等等不确定的问题
安装完成后显示如下界面，提醒我们添加环境变量。
3、添加环境变量
根据上述提示，依次输入如下指令，添加环境变量
export PATH=/usr/local/cuda-12.1/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda-12.1/lib64${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}
加完成后，使用如下指令刷新环境变量。
source ~/.bashrc
4、测试CUDA是否安装成功
使用Ctrl+Alt+T新建终端，输入以下指令，显示CUDA版本信息，表明CUDA安装成功。
nvcc -V
二、下载cuDNN
在NVIDIA官网https://developer.nvidia.com/cudnn下载和CUDA版本对应的cuDNN。这里需要登录自己NVIDIA账号，没有账号的可以用邮箱注册一个账号。
该网页的主页会显示最新版本的cuDNN，这里我们点击Archived cuDNN Releases查看早期版本。
这里我选择安装次新版的8.9.6。
选择下载适配Ubuntu20.04、x86_64架构的Deb文件。
安装cuDNN
使用如下指令安装cuDNN。
sudo dpkg -i cudnn-local-repo-ubuntu2004-8.9.6.50_1.0-1_amd64.deb
之后，使用如下指令拷贝文件即可完成安装。 sudo cp /var/cudnn-local-repo-ubuntu2004-8.9.6.50/cudnn-local-5E60450C-keyring.gpg /usr/share/keyrings 接下来执行命令
sudo apt-get update
install the runtime library
sudo apt-get install libcudnn8-*
测试安装是否成功
cat /usr/include/cudnn_version.h | grep CUDNN_MAJOR -A 2