### 调用本地 AI 模型的实现方法 在 Python 环境下，可以通过加载已保存的 TensorFlow 或 PyTorch 模型文件来调用本地 AI 模型。以下是两种框架的具体实现方式。 #### 使用 TensorFlow 加载并调用模型 TensorFlow 提供了 `tf.saved_model` 和 `tf.keras.models.load_model` 方法用于加载保存的模型。以下是一个完整的代码示例： ```python import tensorflow as tf # 定义函数加载模型 def load_tensorflow_model(model_path): model = tf.saved_model.load(model_path) # 加载 SavedModel 格式的模型[^1] return model # 定义推理函数 def predict_with_tensorflow_model(model, input_data): infer = model.signatures["serving_default"] # 获取默认签名 output = infer(tf.constant(input_data)) # 执行预测 return output # 示例输入数据 input_data = [[0.1, 0.2, 0.3]] # 假设这是模型所需的输入格式 # 加载模型路径 model_path = "./saved_tf_model" loaded_model = load_tensorflow_model(model_path) # 进行预测 output = predict_with_tensorflow_model(loaded_model, input_data) print(output) ``` #### 使用 PyTorch 加载并调用模型 对于 PyTorch，通常会使用 `torch.load` 来加载 `.pt` 或 `.pth` 文件中的模型权重，并重新实例化模型类。以下是具体代码示例： ```python import torch from torchvision import models # 定义自定义模型类 (假设这是一个预训练 ResNet 模型) class CustomResNet(torch.nn.Module): def __init__(self): super(CustomResNet, self).__init__() self.model = models.resnet18(pretrained=False) def forward(self, x): return self.model(x) # 定义函数加载模型 def load_pytorch_model(model_path): model = CustomResNet() # 实例化模型 model.load_state_dict(torch.load(model_path)) # 加载权重[^2] model.eval() # 设置为评估模式 return model # 定义推理函数 def predict_with_pytorch_model(model, input_data): with torch.no_grad(): # 关闭梯度计算 output = model(input_data) # 执行前向传播 return output # 示例输入数据 input_data = torch.randn(1, 3, 224, 224) # 输入形状需匹配模型需求 # 加载模型路径 model_path = "./pytorch_model.pth" loaded_model = load_pytorch_model(model_path) # 进行预测 output = predict_with_pytorch_model(loaded_model, input_data) print(output) ``` 以上两部分展示了如何分别通过 TensorFlow 和 PyTorch 加载本地存储的模型，并执行推断操作。 --- ### 注意事项 - 对于 TensorFlow 的模型部署，可以将其转换为 Protobuf 格式以便跨平台使用。 - 如果需要进一步优化性能，可考虑量化或剪枝技术减少资源消耗。 ---