### 离线安装 Docker 部署大模型需要提前下载的内容 为了在离线环境中成功部署 Docker 并运行大模型，必须提前下载以下内容： #### 1. Docker 引擎及相关依赖 Docker 的核心组件包括引擎本身以及其依赖项。根据版本不同，可能需要下载以下文件： - **Docker 引擎压缩包**：较旧版本通常为 `.tgz` 或 `.tar` 文件[^1]。 - **Containerd**：容器运行时的必要组件[^2]。 - **Runc**：低级容器运行时工具[^1]。 示例命令用于下载这些组件（在联网环境下执行）： ```bash wget https://download.docker.com/linux/static/stable/x86_64/docker-<version>.tgz ``` #### 2. 容器镜像 如果计划运行特定的大模型，需提前保存所需的容器镜像为 `.tar` 文件，并将其传输到目标服务器。 ```bash docker save -o <image-name>.tar <image-name>:<tag> ``` 此操作将镜像打包为可移植的归档文件[^3]。 #### 3. 操作系统依赖 某些操作系统可能需要额外的库或工具支持 Docker 运行。例如，在基于 RHEL 的系统中，可能需要下载以下 RPM 包及其依赖项： - `docker-ce` - `docker-ce-cli` - `containerd.io` 使用 `yumdownloader` 工具可以批量下载这些 RPM 包及其依赖项： ```bash yum install -y yum-utils yumdownloader --resolve docker-ce docker-ce-cli containerd.io ``` 然后将所有下载的 RPM 包打包成一个 tar 文件以便传输到离线环境： ```bash tar -czvf docker-offline.tar.gz *.rpm ``` #### 4. 配置文件 除了二进制文件和镜像外，还需要准备必要的配置文件以确保 Docker 正常运行。主要包含以下内容： - **`daemon.json`**：定义 Docker 守护进程的行为，例如网络配置、存储驱动等[^4]。 - **`docker.service`**：定义 systemd 服务文件以管理 Docker 服务的启动和停止。 示例 `daemon.json` 文件内容： ```json { "bip": "192.168.254.1/24", "exec-opts": ["native.cgroupdriver=systemd"], "log-driver": "json-file", "log-opts": { "max-size": "100m" }, "storage-driver": "overlay2" } ``` 示例 `docker.service` 文件内容： ```ini [Unit] Description=Docker Application Container Engine Documentation=https://docs.docker.com After=network-online.target firewalld.service Wants=network-online.target [Service] Type=notify ExecStart=/usr/local/bin/dockerd --containerd=/run/containerd/containerd.sock ExecReload=/bin/kill -s HUP $MAINPID TimeoutSec=0 RestartSec=2 Restart=always [Install] WantedBy=multi-user.target ``` #### 5. 其他工具或插件 如果大模型的运行依赖于特定的 Docker 插件或扩展功能，也需要提前下载并准备好这些组件。例如，NVIDIA 提供的 `nvidia-docker` 可能是运行 GPU 加速模型的必要条件。 --- ### 示例总结 以下是完整的准备工作清单： 1. Docker 引擎压缩包及依赖项[^1]。 2. 所需容器镜像的 `.tar` 文件[^3]。 3. 操作系统相关的 RPM 包及其依赖项[^2]。 4. 配置文件 `daemon.json` 和 `docker.service`[^4]。 5. 其他可能需要的工具或插件。 ---