`import onnxruntime as ort` 语句用于在Python环境中导入 `onnxruntime` 库，并将其重命名为 `ort`，方便后续代码调用。`onnxruntime` 是一个用于运行ONNX（Open Neural Network Exchange）模型的跨平台推理引擎，能够高效地在不同硬件上执行模型推理任务。以下是其常见使用方式： #### 基础用法 ```python import onnx import onnxruntime as ort import numpy as np # 加载ONNX模型 model = onnx.load("model.onnx") # 打印模型信息 print(onnx.helper.printable_graph(model.graph)) # 创建ONNX运行时 ort_session = ort.InferenceSession("model.onnx") # 准备输入数据 input_data = np.random.rand(1, 3, 224, 224).astype(np.float32) # 推理 ort_inputs = {ort_session.get_inputs()[0].name: input_data} ort_outputs = ort_session.run(None, ort_inputs) # 输出结果 print(ort_outputs) ``` 在上述代码中，首先加载ONNX模型并打印其信息，接着创建 `InferenceSession` 对象，准备输入数据，然后使用 `run` 方法进行推理，最后输出推理结果 [^1]。 #### 多输入情况 ```python import onnxruntime as ort import numpy as np ort_session = ort.InferenceSession('model.onnx') outputs = ort_session.run(None, {'input': np.random.randn(10, 20), 'input_mask': np.random.randn(1, 20, 5)}) # 由于设置了dynamic_axes，支持对应维度的变化 outputs = ort_session.run(None, {'input': np.random.randn(10, 5), 'input_mask': np.random.randn(1, 26, 2)}) ``` 此代码展示了处理多输入的ONNX模型的推理过程，并且由于设置了 `dynamic_axes`，可以支持输入维度的变化 [^2]。 #### 推理方法说明 `onnxruntime` 的 `InferenceSession` 对象的 `run` 方法用于进行模型推理，输入参数为模型的输入，返回值为模型的输出。`run` 方法的第一个参数为模型的输出名称（可设为 `None` 以获取所有输出），第二个参数为模型的输入 [^3]。 ```python result = ort_session.run(None, {'input': ortvalue}) ```