### 不使用 Docker 的情况下在 CentOS 7 上搭建 DeepSeek 环境 要在 CentOS 7 中不依赖于 Docker 来运行 DeepSeek 模型，可以考虑通过虚拟环境或者直接安装 Python 和其他必要的库来实现。以下是具体的解决方案： #### 安装基础工具和依赖项 为了支持 DeepSeek 所需的机器学习框架和其他组件，需要先安装一些基本的开发工具和依赖包。 ```bash yum groupinstall -y "Development Tools" yum install -y epel-release python3-pip gcc-c++ make libffi-devel openssl-devel bzip2-devel wget git ``` 这些命令会安装编译器、Python 开发包以及其他可能需要用到的基础库[^1]。 #### 创建并激活 Python 虚拟环境 创建一个独立的 Python 环境有助于隔离项目所需的特定版本库文件，防止与其他系统的全局设置冲突。 ```bash pip3 install virtualenv virtualenv deepseek_env source deepseek_env/bin/activate ``` 上述操作将建立名为 `deepseek_env` 的虚拟环境，并将其激活以便后续安装所需软件包。 #### 安装 PyTorch 及 Hugging Face Transformers 库 DeepSeek 是基于 Hugging Face Transformer 构建的大规模语言模型 (LLM)，因此需要安装这两个主要库及其相关依赖。 ```bash pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118 pip install transformers accelerate bitsandbytes sentencepiece safetensors gradio ``` 这里假设 GPU 支持 CUDA 11.8；如果硬件不同，则应调整 URL 参数匹配实际设备情况[^2]。 #### 下载预训练好的 DeepSeek LLMs 并加载到内存中 由于无法利用容器化技术简化流程，所以手动获取对应大小的权重数据集至关重要。 ```python from huggingface_hub import snapshot_download model_name = 'deepseek/lm' # 或者指定更具体路径如'deepseek/lm-1.7b' local_dir = './models' snapshot_download(repo_id=model_name, local_dir=local_dir, resume_download=True) ``` 此脚本片段能够从远程仓库拉取目标模型至本地目录保存下来供进一步调用处理。 #### 编写简单的推理测试程序验证功能正常运作 最后编写一段小程序用来确认整个架构已经成功构建完成并且能正确执行预测任务。 ```python import torch from transformers import AutoTokenizer, AutoModelForCausalLM tokenizer = AutoTokenizer.from_pretrained('./models') model = AutoModelForCausalLM.from_pretrained('./models', torch_dtype=torch.float16).cuda() input_text = "Once upon a time," inputs = tokenizer(input_text, return_tensors="pt").to('cuda') outputs = model.generate(**inputs, max_new_tokens=50) print(tokenizer.decode(outputs[0], skip_special_tokens=True)) ``` 以上代码展示了如何加载先前下载下来的模型实例以及生成新的文本序列作为输出结果展示给用户查看效果。