### 使用ONNX模型对图像进行推理或预测 要使用训练好的ONNX模型对图像进行推理或预测，可以按照以下方法实现。以下是完整的流程说明： #### 1. 安装必要的库 确保已安装 `onnxruntime` 和其他依赖项。可以通过以下命令完成安装： ```bash pip install onnxruntime numpy opencv-python matplotlib ``` #### 2. 准备输入图像 在加载模型之前，需要准备一张用于测试的图像，并对其进行预处理以匹配模型的要求。通常情况下，这包括调整尺寸、归一化和通道排列。 #### 3. 加载ONNX模型 通过 `onnxruntime.InferenceSession` 方法加载 `.onnx` 文件。此函数会初始化一个推理会话实例，供后续调用。 #### 4. 图像预处理 为了获得准确的结果，必须严格遵循模型训练时使用的相同预处理逻辑。如果原始模型是在 PyTorch 中训练的，则可能涉及 Normalize 预处理[^3]。 #### 5. 进行推理 将经过预处理的数据传递给模型执行前向传播操作，获取最终的预测结果。 下面是具体的 Python 实现代码示例： ```python import cv2 import numpy as np import onnxruntime as ort from PIL import Image def preprocess_image(image_path, input_size=(120, 120)): """ 对输入图片进行预处理。 :param image_path: 输入图片路径 :param input_size: 模型期望的输入分辨率，默认 (120, 120) :return: 处理后的 NumPy 数组 """ # 读取图片并转换为 RGB 格式 img = cv2.imread(image_path) img = cv2.cvtColor(img, cv2.COLOR_BGR2RGB) # 调整大小至指定分辨率 img_resized = cv2.resize(img, input_size) # 归一化像素值到 [0, 1] img_normalized = img_resized / 255.0 # 如果模型需要特定均值方差标准化，可在此处添加 mean = [0.485, 0.456, 0.406] std = [0.229, 0.224, 0.225] img_normalized = (img_normalized - mean) / std # 将 HWC 格式转为 CHW 格式 img_transposed = img_normalized.transpose(2, 0, 1) # 添加批次维度 NCHW img_batched = np.expand_dims(img_transposed, axis=0).astype(np.float32) return img_batched # 初始化 ONNX Runtime 推理会话 model_path = "path_to_your_model.onnx" session = ort.InferenceSession(model_path, providers=['CUDAExecutionProvider', 'CPUExecutionProvider']) # 获取模型输入名称 input_name = session.get_inputs()[0].name # 测试图片路径 image_path = "test_image.jpg" # 前置处理图片 preprocessed_img = preprocess_image(image_path) # 执行推理 outputs = session.run(None, {input_name: preprocessed_img}) # 输出预测结果 print("Predictions:", outputs) ``` 以上脚本展示了如何加载 ONNX 模型并对单张图像进行推理的过程。注意，在实际应用中，应根据具体模型需求调整预处理部分中的参数设置，比如输入形状、归一化方式等[^1]。 #### 关于模型验证 在正式部署之前，建议先检查 .onnx 文件的有效性和结构是否正确。可通过如下代码片段来确认： ```python import onnx # 加载 ONNX 模型 onnx_model = onnx.load("your_model.onnx") # 检查模型合法性 onnx.checker.check_model(onnx_model) # 打印模型图结构 print(onnx.helper.printable_graph(onnx_model.graph)) ``` 该过程有助于发现潜在错误并理解模型内部架构[^2]。 ---