### C++ 调用 PyTorch 的方法及示例 #### 1. 使用 LibTorch 加载和运行 PyTorch 模型 LibTorch 是 PyTorch 的 C++ 前端库，支持在 C++ 环境中加载和运行 PyTorch 模型。为了在 C++ 中使用 PyTorch 模型，需要先将模型转换为 TorchScript 格式[^1]。 ```cpp #include <torch/torch.h> #include <iostream> std::shared_ptr<torch::jit::script::Module> load_model(const std::string& model_path) { torch::Device device(torch::kCPU); auto module = torch::jit::load(model_path.c_str(), device); // 加载模型[^3] return module; } torch::Tensor run_inference(std::shared_ptr<torch::jit::script::Module> module, torch::Tensor input) { return module->forward({input}).toTensor(); // 执行推理[^1] } int main() { try { auto model = load_model("model.pt"); torch::Tensor input = torch::ones({1, 3, 224, 224}); // 创建输入张量 torch::Tensor output = run_inference(model, input); std::cout << "Output: " << output.slice(/*dim=*/1, /*start=*/0, /*end=*/5) << std::endl; } catch (const c10::Error& e) { std::cerr << "Error: " << e.what() << std::endl; } return 0; } ``` #### 2. 将 PyTorch 模型转换为 TorchScript 在 C++ 中使用 PyTorch 模型前，需将其转换为 TorchScript 格式。可以通过 `torch.jit.script` 或 `torch.jit.trace` 方法实现。 ```python import torch import torchvision # 定义或加载模型 model = torchvision.models.resnet18(pretrained=True) model.eval() # 示例输入 example_input = torch.rand(1, 3, 224, 224) # 使用 tracing 导出模型 traced_script_module = torch.jit.trace(model, example_input) traced_script_module.save("model.pt") # 保存为 TorchScript 模型 ``` #### 3. 在 C++ 中定义自定义功能并暴露给 Python 通过 `pybind11`，可以将 C++ 功能暴露给 Python，并结合 PyTorch 使用[^2]。 ```cpp #include <torch/torch.h> #include <pybind11/pybind11.h> namespace py = pybind11; int add(int i, int j) { return i + j; } int mul(int i, int j) { return i * j; } PYBIND11_MODULE(example, m) { m.def("add", &add, "Add two numbers"); // 定义 Python 可调用的函数[^2] m.def("mul", &mul, "Multiply two numbers"); } ``` 编译上述代码后，可以在 Python 中导入生成的模块并调用 C++ 函数。 ```python import example print(example.add(1, 2)) # 输出 3 print(example.mul(3, 4)) # 输出 12 ``` #### 4. 处理动态库依赖 在 Mac OS 上，可能会遇到动态库加载问题（如 `dyld: Library not loaded`）。确保所有依赖的动态库路径正确设置，并将 LibTorch 库路径添加到环境变量中。 ```bash export DYLD_LIBRARY_PATH=/path/to/libtorch/lib:$DYLD_LIBRARY_PATH ``` --- ###