### 如何在 Streamlit 界面中调用 Ollama 服务 为了实现在 Streamlit 应用程序中调用 Ollama 服务的功能，可以按照以下方式构建代码逻辑。这涉及设置环境、配置依赖以及编写具体的交互逻辑。 #### 配置环境 确保已经安装所需的库和工具： - 安装 Python 和 Streamlit。 - 使用 Poetry 或其他包管理工具来安装 `langchain` 和 `ollama` 的相关依赖项[^2]。 可以通过运行以下命令完成依赖的安装： ```bash poetry add langchain streamlit requests ``` #### 编写代码示例 以下是完整的代码示例，展示如何将 Ollama 服务集成到 Streamlit 用户界面： ```python import streamlit as st import requests def query_ollama(prompt, model="llama2", api_url="http://localhost:11434/api/generate"): """ 向本地运行的 Ollama API 发送请求并获取响应。 参数: prompt (str): 输入提示文本。 model (str): 使用的模型名称，默认为 'llama2'。 api_url (str): Ollama API 地址，默认为 localhost 上的服务地址。 返回: str: 模型生成的结果。 """ payload = { "prompt": prompt, "model": model } response = requests.post(api_url, json=payload) result = response.json() return result.get("response") # Streamlit 页面布局 st.title("Ollama Service Integration with Streamlit") st.write("这是一个简单的演示应用，展示了如何通过 Streamlit 调用 Ollama 服务。") user_input = st.text_area("请输入您的问题或提示:", value="", height=100) if st.button("提交"): if user_input.strip() != "": try: output = query_ollama(user_input) st.success(f"模型返回结果:\n{output}") except Exception as e: st.error(f"发生错误: {e}") else: st.warning("输入框不能为空，请提供有效的提示内容。") ``` 上述代码实现了以下几个功能模块： 1. **定义函数 `query_ollama`**: 此函数负责向本地部署的 Ollama RESTful 接口发送 POST 请求，并解析其 JSON 响应。 2. **Streamlit UI 设计**: 提供了一个简洁的用户界面，允许用户输入自定义提示并通过按钮触发查询操作。 3. **异常处理机制**: 如果网络通信失败或者服务器未正常启动，则会捕获异常并向用户提供反馈信息。 #### 关键技术点说明 - **Ollama API** 是一个轻量级接口，支持多种大型语言模型（LLMs），能够轻松嵌入至各种前端框架之中。 - 利用了 LangChain 工具集中的某些特性作为扩展可能性之一；尽管当前案例并未直接引入该库，但在更复杂场景下可考虑将其纳入整体架构设计当中[^3]。 --- ###