### 在 Ubuntu 22.04 上安装 ONNX Runtime 为了在 Ubuntu 22.04 上成功安装 ONNX Runtime 并配置 CUDA 和 cuDNN 支持，以下是具体的操作方法： #### 验证系统版本 确保当前使用的操作系统为 Ubuntu 22.04。可以通过命令 `lsb_release -a` 或者查看 `/etc/lsb-release` 文件来验证这一点[^1]。 #### 更新软件包列表并安装依赖项 更新现有的软件包列表，并安装必要的构建工具和其他依赖库： ```bash sudo apt update && sudo apt upgrade -y sudo apt install build-essential cmake git unzip pkg-config libgomp1 curl wget python3-pip -y ``` #### 安装 NVIDIA CUDA Toolkit 及 cuDNN 按照官方文档指导完成 CUDA 11.8 和 cuDNN 8.9.6 的安装过程。这一步骤非常重要，因为 ONNX Runtime 对 GPU 加速的支持依赖于这些组件的存在及其正确设置。 #### 下载 ONNX Runtime 源码 前往 GitHub 获取最新稳定版源代码： ```bash cd ~ git clone --recursive https://github.com/microsoft/onnxruntime.git onnxruntime_build cd onnxruntime_build ``` #### 构建带有 CUDA 扩展支持的 ONNX Runtime 库 执行如下脚本来编译适用于特定硬件平台（此处指配备兼容 Nvidia 显卡）的应用程序所需的动态链接库(.so)，同时跳过测试环节以加快整个流程： ```bash ./build.sh \ --parallel $(nproc) \ --use_cuda \ --cuda_version=11.8 \ --cudnn_home=/usr/lib/x86_64-linux-gnu \ --cuda_home=/usr/local/cuda \ --build_shared_lib \ --config Release ``` 注意：上述路径假设 CUDA 已被默认安装到标准位置；如果实际安装路径不同，则应相应调整参数中的路径值[^3]。 #### 设置环境变量以便加载共享对象文件 为了让应用程序能够找到新创建的 `.so` 文件，在 shell 中临时添加或编辑现有 profile 脚本（如 `.bashrc`），加入下面两行内容之一： ```bash export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/path/to/onnxruntime/build/Linux/Release/ # OR (if using bash) echo 'export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/path/to/onnxruntime/build/Linux/Release/' >> ~/.bashrc source ~/.bashrc ``` 至此，ONNX Runtime 就已经成功部署到了基于 Linux 的服务器环境中，并且可以利用 GPU 进行高效的推理运算。