安装Docker

更新系统软件（yum安装的所有软件）

# 更新系统软件（yum安装的所有软件）
sudo yum update -y
# 安装必要依赖项
sudo yum install -y yum-utils device-mapper-persistent-data lvm2
# 清华源镜像
sudo vim /etc/yum.repos.d/docker-ce.repo
# 安装container-selinux
sudo yum install -y container-selinux

下载docker rpm 安装包

链接: docker rpm下载地址
如图

我下载了如下版本

containerd.io-1.6.24-3.1.el8.x86_64.rpm
docker-ce-cli-26.1.3-1.el8.x86_64.rpm
docker-compose-plugin-2.6.0-3.el8.x86_64.rpm
docker-ce-26.1.3-1.el8.x86_64.rpm 
nvidia-container-toolkit-1.13.5-1.x86_64.rpm

安装Doceker CER

sudo rpm -ivh containerd.io-1.6.24-3.1.el8.x86_64.rpm
sudo rpm -ivh docker-ce-cli-26.1.3-1.el8.x86_64.rpm
sudo rpm -ivh docker-ce-26.1.3-1.el8.x86_64.rpm
sudo rpm -ivh docker-compose-plugin-2.6.0-3.el8.x86_64.rpm

安装nvidia-container-toolkit

curl -s -L https://nvidia.github.io/libnvidia-container/stable/rpm/nvidia-container-toolkit.repo | \
  sudo tee /etc/yum.repos.d/nvidia-container-toolkit.repo

yum安装nvidia-container-toolkit

sudo yum install -y nvidia-container-toolkit

启动docker服务器

sudo systemctl start docker