### 流式响应的概念 流式响应是一种数据传输方式，在这种模式下，服务器不会等到整个请求处理完成后再返回结果，而是逐步将部分结果发送给客户端。这种方式特别适合于实时性要求较高的场景，比如对话系统中的文本生成。 --- ### 设置 Python 调用 Ollama API 的流式响应方法 为了实现流式响应功能，可以修改 `requests` 请求参数并将 `stream` 参数设置为 `True`。以下是具体实现： #### 修改后的代码示例 ```python import requests url = "http://localhost:11434/api/generate" payload = { "model": "deepseek-coder", "prompt": "你好，你能帮我写一段代码吗？", "stream": True # 启用流式响应 } response = requests.post(url, json=payload, stream=True) if response.status_code == 200: for line in response.iter_lines(decode_unicode=True): # 遍历每一行的流式数据 if line.strip(): print(line) # 输出每一条流式消息 else: print(f"Error: {response.text}") ``` 在此代码中，通过将 `stream` 参数设为 `True` 并使用 `iter_lines()` 方法逐行读取服务器返回的数据[^1]。这种方法能够实现实时接收和显示生成的内容。 --- ### 结合 Flask 提供流式接口服务 如果希望构建一个基于 Flask 的 Web 应用来支持流式响应，则可以通过以下方式进行扩展： #### Flask 实现流式响应的代码示例 ```python from flask import Flask, request, Response import requests app = Flask(__name__) @app.route('/generate', methods=['POST']) def generate(): payload = request.json url = "http://localhost:11434/api/generate" # 将流式响应传递到前端 def event_stream(): with requests.post(url, json=payload, stream=True) as resp: if resp.status_code != 200: yield f"data: Error: {resp.text}\n\n" else: for line in resp.iter_lines(decode_unicode=True): if line.strip(): yield f"data: {line}\n\n" return Response(event_stream(), mimetype='text/event-stream') if __name__ == '__main__': app.run(debug=True) ``` 此代码片段定义了一个 `/generate` 接口，该接口会将来自 Ollama API 的流式响应转发至前端。这里采用了 `text/event-stream` MIME 类型来表示 Server-Sent Events (SSE)[^2]。 --- ### 下载模型并测试流式响应 在实际应用前，需确保已安装所需的大语言模型。例如，进入 Docker 容器后执行如下命令下载指定版本的 Qwen 模型： ```bash docker exec -it ollama bash ollama pull qwen2.5:0.5b ``` 这一步骤有助于验证所选模型是否兼容流式生成需求[^3]。 ---