### 使用 Docker 部署 Ollama 和 OpenWebUI 的最佳实践 #### 一、环境准备 为了成功部署 Ollama 和 OpenWebUI，需先确认已安装并配置好 Docker 环境。可以通过访问官网下载适合的操作系统版本的 Docker Desktop 并完成安装[^2]。 #### 二、Ollama 容器的部署 以下是通过 Docker 部署 Ollama 的具体方法： 1. **创建数据卷** 创建一个名为 `ollama` 的持久化存储卷用于保存模型和其他相关数据。 ```bash docker volume create ollama ``` 2. **启动 Ollama 容器 (支持 GPU)** 如果设备具备 NVIDIA GPU 支持，则可以启用 GPU 加速来提升性能。命令如下： ```bash docker run -d --gpus=all \ -v ollama:/root/.ollama \ -p 11434:11434 \ --name ollama \ --restart always \ ollama/ollama ``` 此处 `-v ollama:/root/.ollama` 将主机上的卷映射到容器内的路径 `/root/.ollama` 中，以便于后续加载和管理模型文件[^1]。 3. **验证服务状态** 可以通过以下命令查看 Ollama 是否正常运行以及监听端口情况： ```bash docker ps | grep ollama curl http://localhost:11434/models ``` #### 三、OpenWebUI 容器的部署 对于前端交互界面部分，推荐使用 OpenWebUI 来提供更友好的用户体验。 1. **拉取官方镜像** 执行下面这条指令获取最新版 OpenWebUI 镜像： ```bash docker pull ghcr.io/open-webui/open-webui:main ``` 2. **启动 OpenWebUI 容器** 同样地，在此过程中也需要指定网络连接参数让两个独立的服务能够互相通信。 ```bash docker run -d \ -p 3030:8080 \ --add-host=host.docker.internal:host-gateway \ -v ./open-webui:/app/backend/data \ --name open-webui \ --restart always \ ghcr.io/open-webui/open-webui:main ``` 这里需要注意的是选项 `--add-host=host.docker.internal:host-gateway` 能够使内部容器之间建立联系从而调用彼此 API 接口。 3. **测试网页功能** 浏览器输入地址 `http://<your-server-ip>:3030` 即可进入图形化的操作页面，并尝试接入之前已经初始化完毕的大规模预训练语言模型实例。 #### 四、联合调试与优化建议 - 当前架构下，默认情况下两套程序分别暴露不同对外接口供客户端请求处理；如果希望进一步简化流程或者增强安全性的话，还可以考虑引入反向代理机制比如 Nginx 或 Traefik 实现统一入口转发逻辑。 - 对于资源消耗较大的场景来说，合理规划 CPU/GPU 分配比例尤为重要，可通过调整相应的 flags 参数满足实际需求。 ```python import requests response = requests.get('http://localhost:11434/models') print(response.json()) ``` 上述脚本可用于查询当前可用的所有模型列表。 ---