1.确保在宿主机上已经安装了nvidia 显卡的驱动
$ nvidia-smi
2.准备Nvidia-docker的环境
$ distribution=$(. /etc/os-release;echo $ID$VERSION_ID) && curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg && curl -s -L https://nvidia.github.io/libnvidia-container/$distribution/libnvidia-container.list | sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list
$ sudo apt update
$ sudo apt-get install -y nvidia-docker2
$ sudo systemctl restart docker
3.检查支持的cuda
$ sudo docker search cuda
4.启动nvidia-docker
官方的命令是：
$ sudo docker run --rm --gpus all nvidia/cuda:11.0-base nvidia-smi
但我运行时提示找不到nvidia/cuda:11.0-base，有可能是没有科学上网的原因。
我使用的下面的命令：
$ sudo docker run --rm --gpus all rocker/cuda nvidia-smi
长时间下载安装，成功后提示：
开始接下来的表演吧。
$ sudo docker run -it --gpus all --name chatglm-1 rocker/cuda /bin/bash