### 如何通过API调用连接到LMstudio本地模型 #### 准备工作 为了能够顺利地通过API调用连接至LMstudio中的本地模型，需先完成一系列准备工作。这包括但不限于安装必要的依赖库以及配置环境变量等操作[^2]。 #### 安装依赖包 确保已安装`requests`库用于发起HTTP请求。如果尚未安装此库，则可以通过pip命令来实现： ```bash pip install requests ``` #### 发起API请求 下面是一个简单的Python脚本示例，展示了如何向运行于本地的LMstudio服务发送POST请求并获取响应数据： ```python import json import requests def query_lm_studio(prompt, api_url="http://localhost:8080/api/v1/generate"): headers = {"Content-Type": "application/json"} payload = { "prompt": prompt, "max_tokens": 50, "temperature": 0.7, "top_p": 0.9 } response = requests.post(api_url, data=json.dumps(payload), headers=headers) if response.status_code == 200: result = response.json() generated_text = result.get('generated_text') return generated_text else: raise Exception(f"Request failed with status code {response.status_code}") ``` 上述代码定义了一个名为`query_lm_studio()`函数，该函数接受两个参数：一个是输入提示(`prompt`)；另一个是可选的服务地址，默认指向`http://localhost:8080/api/v1/generate`。这个URL对应着启动后的LMstudio实例所提供的RESTful API端点之一。 当成功接收到服务器返回的状态码为200的消息时，解析JSON格式的结果，并从中提取出生成的文字部分作为最终输出。反之则抛出异常提醒开发者注意可能出现的问题所在。 #### 测试API功能 可以利用如下方式测试刚刚编写的API接口是否正常运作： ```python if __name__ == "__main__": test_prompt = "Once upon a time" try: output = query_lm_studio(test_prompt) print(output) except Exception as e: print(e) ``` 这段附加代码会在程序入口处创建一条简短的故事开头作为样本输入给定至先前构建好的查询函数内，并打印处理完毕之后得到的新文本片段出来供查看验证效果。