### 使用 Python 调用 Ollama API 接入本地 DeepSeek 模型 Ollama 是一个用于部署和运行大型语言模型的工具，支持多种模型（包括 DeepSeek）。通过 Ollama 提供的 RESTful API，可以使用 Python 编写代码来调用本地部署的 DeepSeek 模型。以下是具体的解决方案和示例代码。 #### 1. 确保环境已正确配置 在开始之前，请确保已经安装并配置好 Ollama，并且本地成功加载了 DeepSeek R1 模型[^1]。可以通过以下命令检查模型是否已加载： ```bash ollama list ``` 如果未加载 DeepSeek 模型，可以使用以下命令下载并加载： ```bash ollama pull deepseek/7b ``` #### 2. 使用 Python 调用 Ollama API Ollama 提供了一个简单的 HTTP API 接口，可以通过 `requests` 库从 Python 中调用。以下是一个完整的示例代码： ```python import requests # 定义 Ollama API 的 URL url = "http://localhost:11434/api/generate" # 定义请求参数 payload = { "model": "deepseek/7b", # 指定使用的模型为 DeepSeek R1 "prompt": "你好，介绍一下你自己。", # 输入提示 "max_tokens": 100, # 输出的最大 token 数量 "temperature": 0.8, # 控制生成文本的随机性 "top_k": 50, # 限制采样范围 "top_p": 0.95 # 核采样的概率阈值 } # 发送 POST 请求 response = requests.post(url, json=payload) # 解析响应结果 if response.status_code == 200: data = response.json() generated_text = data["response"] print("生成的文本：") print(generated_text) else: print(f"请求失败，状态码：{response.status_code}") ``` #### 3. 参数说明 - **model**: 指定要使用的模型名称，这里是 `deepseek/7b`。 - **prompt**: 输入的提示文本，模型将基于此生成后续内容。 - **max_tokens**: 控制生成文本的最大长度（以 token 为单位）。 - **temperature**: 调整生成文本的多样性，值越高则越随机[^1]。 - **top_k** 和 **top_p**: 这些参数用于控制采样策略，确保生成的文本更加合理[^1]。 #### 4. 注意事项 - 确保 Ollama 服务正在运行，并监听默认端口 `11434`。 - 如果需要更复杂的交互（如流式生成），可以参考 Ollama 官方文档中的 WebSocket API 实现[^1]。 - 在生产环境中，建议对输入和输出进行严格的验证和过滤，以避免潜在的安全问题。 ```python # 示例：WebSocket 流式生成（可选） import websocket import json def on_message(ws, message): data = json.loads(message) if "response" in data: print(data["response"], end="", flush=True) def on_error(ws, error): print(f"错误：{error}") def on_close(ws, close_status_code, close_msg): print("连接关闭") def on_open(ws): payload = { "model": "deepseek/7b", "prompt": "你好，介绍一下你自己。", "stream": True } ws.send(json.dumps(payload)) # 创建 WebSocket 连接 ws_url = "ws://localhost:11434/api/generate" ws = websocket.WebSocketApp(ws_url, on_message=on_message, on_error=on_error, on_close=on_close) ws.on_open = on_open ws.run_forever() ```