### 将 `.safetensors` 格式的模型权重转换为 ONNX 格式 #### 了解 safetensors 文件结构 `safetensors` 是一种用于存储张量数据的高效二进制格式，通常用于保存深度学习模型的参数。这种文件包含了两个主要部分：头部（header），描述了各个张量的信息；以及主体（body），实际存储着张量的数据。 要实现从 `safetensors` 到 ONNX 的转换，首先需要解析并提取这些信息[^3]。 #### 解析 .safetensors 文件 可以利用 Python 中专门处理此格式的库来加载 `.safetensors` 文件： ```python from safetensors import safe_open with safe_open("path/to/model.safetensors", framework="pt") as f: metadata = {k: v for k, v in f.metadata().items()} tensors = {} for key in f.keys(): tensor = f.get_tensor(key) tensors[key] = tensor ``` 这段代码会读取指定路径下的 `.safetensors` 文件，并将其内部所有的键值对映射到字典 `tensors` 当中，其中键代表各层名称，值则是对应的 PyTorch 张量对象。 #### 构建 ONNX 图形定义 接下来的任务就是创建一个新的 ONNX 模型实例，并向其添加节点和初始化器。这一步骤涉及到构建计算图逻辑，即定义输入输出变量及其之间的运算关系。对于简单的迁移场景来说，可以直接复制源模型中的操作序列至目标框架下。 假设已经有一个完整的 PyTorch 或 TensorFlow 模型作为起点，则可以通过导出工具自动生成相应的 ONNX 表达形式。然而，在仅有权重的情况下工作时，就需要手动编写这部分内容了。 以下是基于上述获取到的张量列表构造最基础版本的方法之一： ```python import torch.onnx import onnx from onnx import helper, numpy_helper def create_onnx_model(tensors_dict): graph_def = helper.make_graph( nodes=[], name='SimpleModel', inputs=[], # 输入节点需根据具体应用设定 outputs=[], # 输出节点同上 initializer=[ numpy_helper.from_array(tensor.numpy(), name=key) for key, tensor in tensors_dict.items() ] ) model_def = helper.make_model(graph_def, producer_name='example') return model_def ``` 请注意，这里的例子仅展示了如何将所有张量注册为首字母表项而不涉及任何具体的算子连接方式。因此得到的结果实际上并不具备执行功能——它只是一个静态的数据容器而已。 最后通过调用如下函数完成整个过程并将最终产物存盘： ```python output_path = "converted_model.onnx" onnx.save(create_onnx_model(tensors), output_path) print(f"Converted model saved to {output_path}") ``` 以上步骤实现了基本的功能需求，但对于更复杂的架构而言还需要额外考虑诸如批次规范化、激活函数等细节问题。如果原生支持此类特性的高级API存在的话，建议优先采用官方推荐的方式来进行跨平台移植作业。