### 如何在 C# 中加载并使用 ONNX 模型进行推理或识别任务 要在 C# 中加载并使用 ONNX 模型进行推理或识别任务，可以采用多种方法实现。以下是基于不同场景和技术栈的具体说明。 --- #### 方法一：使用 Microsoft.ML.OnnxRuntime 进行模型加载和推理 Microsoft 提供的 `Microsoft.ML.OnnxRuntime` 是一种高效的方式，在 .NET 环境下支持 ONNX 模型的加载与推理操作。此方法适用于大多数通用 ONNX 模型的任务。 1. **安装必要的 NuGet 包** 需要安装以下包来完成基本功能： - `Microsoft.ML.OnnxRuntime` - 如果涉及图像处理，则还需要额外安装 OpenCV 或其他图像处理库（如 `OpenCvSharp4.Extensions`, `OpenCvSharp4.Windows`）[^1]。 2. **代码示例** 下面是一个完整的代码片段展示如何加载 ONNX 模型并执行推理： ```csharp using System; using System.IO; using Microsoft.ML.OnnxRuntime; using Microsoft.ML.OnnxRuntime.Tensors; class Program { static void Main(string[] args) { string modelPath = "path_to_your_model.onnx"; // 替换为实际路径 InferenceSession session = new InferenceSession(modelPath); // 准备输入张量 (假设模型接受 float 输入) var inputTensor = CreateRandomFloatTensor(1, 3, 224, 224); // 示例形状调整至具体需求 var inputs = new List<NamedOnnxValue> { NamedOnnxValue.CreateFromTensor<float>("input_name", inputTensor) // 替换 "input_name" }; // 执行推理 using IDisposableReadOnlyCollection<DisposableNamedOnnxValue> results = session.Run(inputs); foreach (var result in results) { Console.WriteLine(result.Name + ":"); PrintTensor((float[])result.AsEnumerable<float>().ToArray()); } } private static DenseTensor<float> CreateRandomFloatTensor(int batch, int channels, int height, int width) { Random random = new Random(); float[] data = Enumerable.Range(0, batch * channels * height * width).Select(_ => (float)(random.NextDouble() * 2 - 1)).ToArray(); return new DenseTensor<float>(data, new[] { batch, channels, height, width }); } private static void PrintTensor(float[] tensorData) { Array.ForEach(tensorData.Take(10).ToArray(), val => Console.Write($"{val:F4} ")); Console.WriteLine("..."); } } ``` 上述代码展示了如何创建随机输入张量、加载模型以及获取输出结果。注意替换 `"input_name"` 和具体的张量维度以匹配您的模型配置[^1]。 --- #### 方法二：利用 Windows Machine Learning API 实现 ONNX 推理 对于 UWP 应用程序开发人员来说，Windows ML (`WinML`) 可能更加适合。它提供了简单易用的接口来加载本地 ONNX 文件并执行推理。 1. **设置项目环境** 创建一个新的 UWP 项目，并确保已启用 `.NET Standard` 支持。随后添加对 `Windows.AI.MachineLearning` 的引用。 2. **代码示例** 使用 WinML 加载模型并推断的过程如下所示： ```csharp using System; using Windows.Storage; using Windows.AI.MachineLearning; public async Task RecognizeObject() { try { // 加载模型文件 StorageFile modelFile = await StorageFile.GetFileFromApplicationUriAsync( new Uri("ms-appx:///Assets/YourModel.onnx")); ImageClassificationModel model = await ImageClassificationModel.CreateFromStreamAsync(modelFile); // 构造输入数据 SoftwareBitmap inputImage = LoadSoftwareBitmapFromFile("image_path"); // 自定义函数读取图片 ImageFeatureValue imageTensor = ImageFeatureValue.CreateFromSoftwareBitmap(inputImage); Predictions predictions = await model.EvaluateAsync(imageTensor, string.Empty); // 输出分类标签 Console.WriteLine(predictions.Label); } catch (Exception ex) { Console.WriteLine($"Error during inference: {ex.Message}"); } } ``` 此处需要注意的是，WinML 更加专注于特定类型的机器学习应用（例如图像分类），因此其灵活性可能不如 OnnxRuntime 大[^2]。 --- #### 方法三：结合第三方框架扩展能力 如果需要更复杂的前处理逻辑或者针对某些特殊领域优化过的工具链，可以选择集成更多开源组件。例如，PaddleOCR 就提供了一个较为成熟的端到端解决方案用于文字检测与识别；而 EMGU CV 则能够很好地补充计算机视觉方面的不足之处[^3]。 --- ### 总结 以上介绍了三种主流方式帮助开发者快速入门于 C# 平台上的 ONNX 模型部署工作流。每种方案各有优劣，请根据实际情况选取最适合自己的技术路线实施落地计划。 ---