### 在 NVIDIA Jetson Xavier NX 上安装 TensorRT 的方法 要在 NVIDIA Jetson Xavier NX 上安装 TensorRT，需要遵循以下详细步骤和注意事项。Jetson Xavier NX 使用的是 Nvidia 定制的 Ubuntu 系统，并且通常通过 Jetpack 提供预装的软件环境[^4]。如果 TensorRT 未预装，则需要手动安装。 #### 1. 检查当前系统环境 确保 Jetson Xavier NX 已正确配置并运行在支持的系统版本上。Nvidia 推荐使用 Jetpack 提供的 Ubuntu 版本（通常是 Ubuntu 18.04 或更高版本）。可以通过以下命令检查当前系统信息： ```bash cat /etc/os-release ``` 此外，确认 CUDA 和 cuDNN 是否已正确安装。可以通过以下命令验证： ```bash nvcc --version ldconfig -p | grep cudnn ``` #### 2. 使用 Jetpack 预装 TensorRT 如果使用的是 Jetpack 4.6.1 或更高版本，TensorRT 可能已经预装。可以通过以下命令检查是否已安装 TensorRT： ```bash dpkg -l | grep tensorrt ``` 如果 TensorRT 已预装，则无需额外操作。对于 Jetpack 4.6.1，预装的 TensorRT 版本为 8.2.1[^4]。 #### 3. 手动安装 TensorRT 如果 TensorRT 未预装或需要特定版本，可以按照以下步骤手动安装： - **下载 TensorRT** 访问 Nvidia 官方 TensorRT 下载页面[^3]，选择与 Jetson Xavier NX 兼容的 TensorRT 版本进行下载。确保选择的版本与当前 CUDA 和 cuDNN 版本兼容。 - **安装依赖项** 安装必要的依赖项，包括 libnvinfer 和相关工具包： ```bash sudo apt-get update sudo apt-get install -y libnvinfer8 libnvinfer-dev libnvinfer-plugin8 libnvinfer-plugin-dev ``` - **配置环境变量** 将 TensorRT 库路径添加到环境变量中： ```bash echo 'export LD_LIBRARY_PATH=/usr/lib/x86_64-linux-gnu:$LD_LIBRARY_PATH' >> ~/.bashrc source ~/.bashrc ``` #### 4. 测试 TensorRT 安装 安装完成后，可以通过运行示例程序测试 TensorRT 是否正常工作。Nvidia 提供了多个 TensorRT 示例代码，可以从官方仓库克隆并编译： ```bash git clone https://github.com/NVIDIA/TensorRT.git cd TensorRT/samples make -j$(nproc) ``` 运行示例程序以验证安装： ```bash ./bin/sample_mnist ``` #### 5. 资源监控 在运行 TensorRT 模型时，建议使用 `jetson-stats` 工具监控 CPU、GPU 和内存使用情况[^2]。可以通过以下命令安装该工具： ```bash pip3 install jetson-stats ``` 启动监控工具： ```bash jtop ``` --- ### 注意事项 - 如果遇到 GPU 不可用的问题，可能是由于驱动或 TensorFlow 版本不匹配导致。可以尝试重新安装 TensorFlow 并指定 Nvidia 自定义版本[^4]。 - 确保网络代理设置正确，特别是在使用 pip 或其他包管理工具时[^4]。 ---