### 使用 Python 调用 Open WebUI 部署的大模型 要通过 Python 脚本调用部署在 Open WebUI 上的大模型，可以利用 HTTP 请求库（如 `requests`），向 Open WebUI 提供的接口发送请求并获取响应。以下是具体的方法和示例代码。 #### 1. 准备工作 确保 Open WebUI 已经成功部署，并能够正常访问[^2]。默认情况下，Open WebUI 运行在本地端口 `3000`，可以通过浏览器访问 `http://localhost:3000` 来验证其状态。 如果使用 Docker 容器部署，则需确认容器映射的端口号以及网络设置是否正确[^3]。 --- #### 2. 接口说明 Open WebUI 支持 RESTful API 或 WebSocket 协议来与外部程序交互[^4]。对于简单的文本生成任务，通常采用 POST 请求的方式提交数据到指定路径 `/api/generate` 并接收返回的结果。 API 参数一般包括但不限于以下字段： - **model**: 指定使用的 LLM 模型名称。 - **prompt**: 输入提示文本。 - **max_tokens**: 输出的最大 token 数量。 - **temperature**: 控制随机性的参数，默认值为 1.0。 更多高级选项可以根据实际需求调整。 --- #### 3. 示例代码 下面是一个完整的 Python 示例脚本，展示如何通过 `requests` 库调用 Open WebUI 的大模型服务： ```python import requests def call_open_webui(prompt, model="llama2", max_tokens=100, temperature=0.7): url = "http://localhost:3000/api/generate" headers = { "Content-Type": "application/json", "Accept": "application/json" } data = { "model": model, "prompt": prompt, "max_tokens": max_tokens, "temperature": temperature } try: response = requests.post(url, json=data, headers=headers) if response.status_code == 200: result = response.json() return result.get("response", "No response received.") else: return f"Error: {response.status_code} - {response.text}" except Exception as e: return str(e) if __name__ == "__main__": input_text = "Explain the concept of artificial intelligence." output = call_open_webui(input_text) print(f"Generated Text:\n{output}") ``` 此代码实现了以下几个功能： - 设置目标 URL 和必要的头部信息。 - 构造 JSON 数据包传递给服务器。 - 处理可能发生的异常情况。 - 打印最终生成的内容或错误消息。 注意：需要根据实际情况修改主机名、端口号以及其他配置项[^1]。 --- #### 4. 常见问题排查 - 如果无法连接至 Open WebUI，请检查防火墙规则或者重新启动相关服务。 - 当接收到不预期的回答时，尝试更改超参比如温度系数 (`temperature`) 或者上下文长度限制(`context_length`)。 - 对于更复杂的对话场景考虑引入会话历史记录机制以便维持连贯性。 ---