以下是关于如何在 Linux 上安装和部署 Ollama 中的 DeepSeek R1 14B 模型的详细步骤,包括运行、测试和 Web UI 的设置和使用。
---
## ? DeepSeek R1 14B 模型安装与部署指南(Linux)
### 一、环境准备
#### 1. 安装 Docker
确保你的 Linux 系统上安装了 Docker。以下是在 Ubuntu 上安装 Docker 的步骤:
```bash
sudo apt update
sudo apt install apt-transport-https ca-certificates curl software-properties-common
curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo apt-key add -
sudo add-apt-repository "deb [arch=amd64] https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable"
sudo apt update
sudo apt install docker-ce
```
确保 Docker 服务正在运行:
```bash
sudo systemctl start docker
sudo systemctl enable docker
```
确保你在 Docker 组内(可选,但推荐):
```bash
sudo usermod -aG docker $USER
```
然后,注销并重新登录。
#### 2. 安装 Ollama
使用以下命令安装 Ollama:
```bash
curl -sSfL https://ollama.com/download | sh
```
安装完成后,验证安装:
```bash
ollama --version
```
---
### 二、安装 DeepSeek R1 14B 模型
#### 1. 拉取 DeepSeek R1 14B 模型
在终端中运行以下命令:
```bash
ollama pull deepseek/r1-14b
```
---
### 三、运行模型
通过以下命令启动 DeepSeek R1 14B 模型:
```bash
ollama serve deepseek/r1-14b
```
默认情况下,该模型将在 8080 端口运行。
---
### 四、测试模型
#### 1. 使用 CURL 进行测试
在另一个终端窗口中,使用 CURL 向模型发送请求:
```bash
curl -X POST http://localhost:8080 -H "Content-Type: application/json" -d '{"prompt": "请给出一个测试文本的例子。"}'
```
> **注意**:根据你的模型功能,修改 `prompt` 内容以适应自己的需求。
#### 2. 使用 Postman 进行测试
1. 打开 Postman,选择 **POST** 请求。
2. 在 URL 中输入 `http://localhost:8080`。
3. 在 **Headers** 中添加:
- `Content-Type`:`application/json`
4. 在 **Body** 中选择 **raw** 类型,输入 JSON 格式的请求体,例如:
```json
{
"prompt": "请给出一个测试文本的例子。"
}
```
5. 点击 **Send** 发送请求,查看模型的响应。
---
### 五、安装和运行 Web UI
#### 1. 安装 Web UI
Ollama 提供的 Web UI 允许你更方便地与模型交互。在终端中运行以下命令安装和启动 Web UI:
```bash
ollama web
```
#### 2. 访问 Web UI
Web UI 默认会在 `http://localhost:8080` 启动。如果你已经启动了模型服务,可以使用以下命令更改 Web UI 的端口(例如:8081):
```bash
ollama web --port 8081
```
然后,你可以在浏览器中访问:
- **默认 Web UI**:`http://localhost:8080`
- **自定义 Web UI**:`http://localhost:8081`
---
### 六、总结
通过以上步骤,你已成功在 Linux 上安装了 Ollama 中的 DeepSeek R1 14B 模型,并完成了模型的运行、测试和 Web UI 的设置。你可以根据需要调整 Web UI 或者继续探索模型的功能与用法。
如有任何问题,欢迎随时询问!祝你使用愉快!