### 部署YOLOv5模型到C++环境中的方法 使用 C++ 和 ONNX Runtime 部署 YOLOv5 模型是一个常见的需求，以下是实现这一目标的具体说明。 #### 1. 将 PyTorch 的 YOLOv5 转换为 ONNX 格式 首先需要将训练好的 YOLOv5 模型转换成 ONNX 文件。可以通过 Python 脚本完成此操作： ```python import torch from models.experimental import attempt_load device = 'cuda' if torch.cuda.is_available() else 'cpu' model = attempt_load('yolov5s.pt', map_location=device) # 加载预训练权重文件 dummy_input = torch.randn(1, 3, 640, 640).to(device) input_names = ["image"] output_names = ['boxes'] torch.onnx.export( model, dummy_input, "yolov5s.onnx", verbose=True, opset_version=12, input_names=input_names, output_names=output_names ) ``` 上述脚本会生成 `yolov5s.onnx` 文件[^1]。 --- #### 2. 安装并初始化 ONNX Runtime 环境 为了在 C++ 中加载和推理 ONNX 模型，需安装 ONNX Runtime 库。可以参考官方文档下载对应版本的库文件，并将其链接至项目中。 创建一个简单的 CMakeLists.txt 来管理依赖项： ```cmake cmake_minimum_required(VERSION 3.10) project(yolov5_cpp_example LANGUAGES CXX) find_package(onnxruntime REQUIRED) add_executable(yolov5_example main.cpp) target_link_libraries(yolov5_example PRIVATE onnxruntime::onnxruntime) ``` --- #### 3. 编写 C++ 推理代码 以下是一段完整的 C++ 示例代码用于加载和推断 YOLOv5 模型： ```cpp #include <onnxruntime_cxx_api.h> #include <opencv2/opencv.hpp> int main(int argc, char* argv[]) { Ort::Env env(ORT_LOGGING_LEVEL_WARNING, "YoloV5"); Ort::SessionOptions session_options; session_options.SetIntraOpNumThreads(1); session_options.SetGraphOptimizationLevel(GraphOptimizationLevel::ORT_ENABLE_ALL); const char* model_path = "./yolov5s.onnx"; Ort::Session session(env, model_path, session_options); // 获取输入节点名称 std::vector<const char*> input_node_names; input_node_names.push_back(session.GetInputNameAllocated(0, nullptr)); // 设置输入张量形状 (batch_size, channels, height, width) std::vector<int64_t> input_tensor_dims = {1, 3, 640, 640}; // 准备图像数据作为输入 cv::Mat img = cv::imread("test_image.jpg", cv::IMREAD_COLOR); cv::resize(img, img, cv::Size(640, 640)); cv::cvtColor(img, img, cv::COLOR_BGR2RGB); float scale_factor = 1.0f / 255.0f; // 归一化处理 cv::Mat normalized_img_float; img.convertTo(normalized_img_float, CV_32F, scale_factor); // 创建内存缓冲区存储输入数据 size_t num_elements = 1 * 3 * 640 * 640; std::vector<float> input_tensor_values(num_elements); memcpy(input_tensor_values.data(), normalized_img_float.ptr<float>(0), sizeof(float) * num_elements); // 构建输入 Tensor 对象 Ort::Value input_tensor = Ort::Value::CreateTensor<float>( allocator_info, input_tensor_values.data(), static_cast<size_t>(num_elements), input_tensor_dims.data(), input_tensor_dims.size() ); // 执行推理 std::vector<Ort::Value> ort_outputs = session.Run( {}, input_node_names, &input_tensor, 1 ); // 输出检测结果 auto output_data = ort_outputs[0].GetTensorMutableData<float>(); int output_length = ort_outputs[0].GetTensorTypeAndShapeInfo().GetElementCount(); for (size_t i = 0; i < output_length && i < 10; ++i) { printf("%f ", output_data[i]); } return 0; } ``` 该程序实现了以下几个功能： - 初始化 ONNX Runtime 并加载模型。 - 处理输入图片以匹配模型的要求。 - 运行前向传播获取预测结果。 --- #### 4. 后处理逻辑 YOLOv5 的输出通常由多个分支组成，具体取决于所选架构。一般情况下，输出包含边界框坐标、置信度分数以及类别标签。后处理部分可能涉及 NMS（非极大值抑制），以便筛选出最佳候选区域。 可参考如下伪代码来解析输出： ```cpp std::vector<std::tuple<float, float, float, float>> boxes; for (size_t i = 0; i < output_length; ++i) { float confidence = output_data[i]; if (confidence > threshold) { float x_center = output_data[++i]; float y_center = output_data[++i]; float box_width = output_data[++i]; float box_height = output_data[++i]; // 解码中心点形式为左上角右下角形式 float xmin = x_center - box_width / 2.f; float ymin = y_center - box_height / 2.f; float xmax = x_center + box_width / 2.f; float ymax = y_center + box_height / 2.f; boxes.emplace_back(xmin, ymin, xmax, ymax); } } // 实现NMS算法过滤重叠框... ``` --- #### 总结 通过以上步骤即可成功部署 YOLOv5 到 C++ 环境中。需要注意的是，在实际应用过程中还需考虑硬件加速选项（如 GPU 支持）、性能调优等问题[^2]。