### 将 Whisper 模型转换为 ONNX 格式的参数配置 将 Whisper 模型转换为 ONNX 格式时，需要特别注意模型输入输出的定义以及优化选项的选择。以下是关于如何正确设置参数的具体方法： #### 1. 使用 `torch.onnx.export` 方法导出模型 PyTorch 提供了内置工具用于将模型导出到 ONNX 格式。以下是一个典型的代码示例[^4]： ```python import torch from transformers import WhisperForConditionalGeneration, WhisperProcessor # 加载预训练的 Whisper 模型和处理器 model_name = "openai/whisper-tiny" processor = WhisperProcessor.from_pretrained(model_name) model = WhisperForConditionalGeneration.from_pretrained(model_name) # 创建虚拟数据作为模型输入 input_features = processor(torch.randn(1, 16000), sampling_rate=16000, return_tensors="pt").input_features # 导出模型至 ONNX 文件 dummy_input = input_features torch.onnx.export( model, dummy_input, "whisper_tiny.onnx", input_names=["input_features"], output_names=["logits"], dynamic_axes={"input_features": {0: "batch_size", 1: "sequence_length"}}, opset_version=13 ) ``` 上述代码中： - `opset_version=13` 是为了兼容最新的 ONNX 运算符集版本。 - `dynamic_axes` 设置允许动态调整批量大小和序列长度。 #### 2. 配置量化参数以提高性能 如果目标设备支持 INT8 或 FP16 的推理加速，则可以考虑对模型进行量化处理。这通常通过第三方库完成，例如 `onnxruntime` 和 `onnx-simplifier`[^5]。 简化并优化 ONNX 模型的方法如下所示： ```bash pip install onnxsim python -m onnxsim whisper_tiny.onnx whisper_tiny_optimized.onnx ``` 对于硬件特定的优化（如 RKNN），可参考提供的环境配置指南[^2]，确保在 x86 Linux 系统下安装必要的依赖项，并使用 rknn-toolkit2 工具包执行进一步转换。 #### 3. 解决 C++ 库加载问题 当运行基于 ONNX 的应用程序时，可能会遇到共享库缺失的情况。此时可以通过显式指定路径解决此问题[^3]： ```bash export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/path/to/library ``` 其中 `/path/to/library` 替换为你环境中实际存储 libstdc++.so.6 文件的位置。 --- ###