### 如何在 C# 中使用 ONNX Runtime 加载和调用 .onnx 格式的深度学习模型 要在 C# 中加载并调用 `.onnx` 格式的深度学习模型，可以借助 Microsoft 提供的 `ONNX Runtime` 库。以下是具体方法以及示例代码。 #### 安装必要的 NuGet 包 首先，在 Visual Studio 的 C# 项目中安装以下两个 NuGet 包： - `Microsoft.ML.OnnxRuntime` - `Microsoft.ML.OnnxRuntime.Managed` 可以通过右键单击项目的依赖项部分，选择“管理 NuGet 程序包”，然后搜索并安装这些库[^1]。 #### 创建会话对象 (InferenceSession) 要加载 `.onnx` 文件，需创建一个 `InferenceSession` 对象。此对象负责初始化模型并提供推理功能。 ```csharp using System; using Microsoft.ML.OnnxRuntime; class Program { static void Main(string[] args) { string modelPath = "path_to_your_model.onnx"; // 替换为实际路径 try { using var session = new InferenceSession(modelPath); Console.WriteLine("Model loaded successfully."); } catch (Exception ex) { Console.WriteLine($"Error loading the model: {ex.Message}"); } } } ``` 如果希望利用 GPU 进行加速，则可以在创建 `InferenceSession` 时传递带有 CUDA 支持的选项： ```csharp var options = SessionOptions.MakeSessionOptionWithCudaProvider(0); // 指定 GPU 编号为 0 using var session = new InferenceSession(modelPath, options); Console.WriteLine("Model loaded with GPU support."); ``` 注意：CUDA Provider 需要确保系统已正确配置 NVIDIA 显卡驱动程序及其对应的 cuDNN 版本[^3]。 #### 准备输入数据 大多数深度学习模型接受张量作为输入。对于简单的数值数组，可将其转换成适合的形式传入模型。例如，假设我们有一个二维浮点数矩阵作为输入： ```csharp float[][] inputData = { new float[] { 1.0f, 2.0f }, new float[] { 3.0f, 4.0f } }; // 将输入封装到 Tensor<float> 类型 var tensorInput = new DenseTensor<float>(inputData, new int[] { 2, 2 }); ``` #### 执行推理操作 定义好输入后，可通过 `session.Run()` 方法执行推理过程，并获取输出结果。 ```csharp // 获取模型的第一个输入节点名称 string inputName = session.InputMetadata.Keys.First(); // 构建运行参数字典 var inputs = new List<NamedOnnxValue> { NamedOnnxValue.CreateFromTensor(inputName, tensorInput) }; // 执行推理 using IDisposableReadOnlyCollection<IDisposableNamedOnnxValue> results = session.Run(inputs); // 输出第一个输出的结果 foreach (var result in results) { Console.WriteLine(result.Name); var outputArray = result.AsEnumerable<float>().ToArray(); Console.WriteLine(string.Join(", ", outputArray)); } ``` 以上代码展示了如何准备输入、运行模型以及解析输出结果[^2]。 --- ###