根据 [ref_1]，在 Windows 系统上安装 `onnx-runner` 所需的依赖项非常简单，主要取决于你希望使用 CPU 还是 GPU 来运行模型。 ### **核心依赖要求** 下表清晰对比了不同运行模式下的依赖需求： | 运行模式 | 必需依赖 | 说明 | | :--- | :--- | :--- | | **CPU 运行** | **无** | 无需安装任何额外依赖 [ref_1]。 | | **GPU 运行** | **CUDA 12.x** 和 **CUDNN 9.x** | 需要正确安装 NVIDIA 驱动、CUDA 工具包和 cuDNN 库 [ref_1]。 | ### **安装步骤详解** #### **1. 下载预编译包** 前往 `onnx-runner` 的 GitHub 发布页面，下载适用于 Windows 的最新版本压缩包。 ```bash # 例如，下载版本 v0.1.1 # 下载链接：[onnx-runner-0.1.1-windows.tar.gz](https://github.com/xgpxg/onnx-runner/releases/download/v0.1.1/onnx-runner-v0.1.1-windows.tar.gz) ``` 下载后，你会得到一个名为 `onnx-runner-{version}-windows.tar.gz` 的文件 [ref_1]。 #### **2. 解压到系统路径** 将下载的压缩包解压到你希望存放的任意目录（例如 `C:\Tools\onnx-runner`）。**关键点在于**：该压缩包已经包含了运行 ONNX 模型和 OpenCV 所需的所有动态链接库（DLL）等依赖项 [ref_1]。这意味着你**不需要**单独下载或安装 ONNX Runtime 或 OpenCV 的 Windows 版本，极大地简化了部署流程。 #### **3. （可选）配置 GPU 支持** 如果你计划使用 GPU 加速推理，则需要确保系统已正确安装 NVIDIA 显卡驱动、CUDA 12.x 和 cuDNN 9.x。安装后，请配置好相应的环境变量（如 `CUDA_PATH`），并将 cuDNN 的库文件复制到 CUDA 的安装目录下 [ref_1]。 #### **4. 运行验证** 打开 **CMD** 或 **PowerShell**，导航到 `onnx-runner.exe` 所在的目录，执行以下命令进行验证： ```powershell # 使用帮助命令查看用法 .\onnx-runner.exe -h # 使用一个示例 ONNX 模型和图片进行测试（假设文件在当前目录） .\onnx-runner.exe -m yolov8n.onnx -i test_image.jpg --show ``` 上述命令中： * `-m`：指定 YOLO ONNX 模型文件的路径 [ref_1]。 * `-i`：指定输入源，可以是本地图片、视频、摄像头或网络流地址 [ref_1]。 * `--show`：可选参数，用于在 GUI 窗口中显示检测结果 [ref_1]。 ### **常见问题与解决方案** 1. **已安装 CUDA/cuDNN，但程序仍使用 CPU** * **检查环境变量**：确保 `CUDA_PATH` 等环境变量已正确设置 [ref_1]。 * **检查库文件**：确认 cuDNN 的 DLL 文件已正确复制到 CUDA 的 `bin` 目录下 [ref_1]。 * **验证版本**：`onnx-runner` 当前仅支持 **CUDA 12.x** 和 **cuDNN 9.x**，请检查你的版本是否符合要求 [ref_1]。 2. **程序无法启动，提示缺少 DLL** * 这种情况通常发生在未将 `onnx-runner` 解压包内的所有文件（包括子目录）完整提取出来。请确保解压时保留了完整的目录结构。 ### **与其他部署方式的对比** `onnx-runner` 这种提供**预编译二进制包并内置依赖**的方式，与传统的 ONNX 模型部署方法相比，优势明显： | 部署方式 | 优点 | 缺点 | | :--- | :--- | :--- | | **onnx-runner (预编译包)** | **开箱即用**，无需配置 Python/ONNX Runtime 环境，依赖内置，适合快速原型验证和交付 [ref_1]。 | 目前仅支持 YOLO 系列模型，灵活性相对较低 [ref_1]。 | | **ONNX Runtime 直接调用** | 支持所有 ONNX 模型，灵活性极高，可集成到各种应用中 [ref_3]。 | 需要手动配置开发环境（如安装 `onnxruntime` Python 包或 C++库），步骤繁琐。 | | **Docker 容器化部署** | 环境隔离性好，一致性高，适合生产服务器部署 [ref_4]。 | 需要安装 Docker 和配置 GPU 支持，对 Windows 用户有一定学习成本。 | ### **总结** 在 Windows 上安装 `onnx-runner` 的核心是**下载正确的预编译包并完整解压**。对于 CPU 推理，真正做到零依赖安装。对于 GPU 推理，只需确保系统层面安装了正确版本的 CUDA 和 cuDNN 即可。这种设计极大地降低了用户，特别是非 Python 开发者或需要快速部署的研究人员，使用 YOLO ONNX 模型进行目标检测的门槛 [ref_1][ref_6]。