百度360必应搜狗淘宝本站头条
linux 远程linux 文件命令linux 是什么查看文件 linux删除文件 linux
当前位置：网站首页 > 技术文章 > 正文

Linux下快速安装ollama和deepseek并使用web界面

ahcoder 2025-05-23 14:51 5 浏览

本文以ubuntu24.04为例，使用ubuntu是因为其第三方显卡的驱动。

安装的先决条件：因ollama的安装是直接使用在线安装脚本进行安装，故首先需要可以访问到github。web界面使用docker容器运行，也确保可以从公共仓库中拉取open-webui的镜像。

以下是 Ollama 和 DeepSeek 的部署方法：

Ollama 部署

  • 安装 Ollama：运行命令 curl -fsSL https://ollama.com/install.sh | sh。

因为我是在esxi里面的虚拟机中做的这个文章的演示，且我没有开启显卡直通，所以这里安装完成后会有告警信息，说没有找到GPU，将使用CPU模式运行。

  • 启动 Ollama：在终端运行命令 ollama serve 启动 Ollama 服务。启动过程中会创建一个公钥和私钥并监听本地的11434端口。
  • 验证安装：运行命令 ollama --version，查看 Ollama 的版本号以确认安装成功。

DeepSeek 部署

通过 Ollama 部署：上面的ollama已经部署完成，下面通过命令运行deepseek模型即可，命令如果是首次运行，会下面对应的模型。所以先根据自己的磁盘空间等情况选择合适的模型版本。

运行 DeepSeek 模型：

根据硬件选择合适的模型版本，例如运行 1.5B 模型，可执行命令 ollama run deepseek-r1:1.5b；因为是虚机的演示，这里我就仅使用了1.1G大小的1.5B模型。

若要运行更大规模的模型，如 70B 模型或者671B 模型，可执行命令 ollama run deepseek-r1:70b或ollama run deepseek-r1:671b。

通过 API 交互：启动 Ollama 服务后，可通过 HTTP 请求与模型交互。例如，向
http://localhost:11434/api/generate 发送 POST 请求，请求体中包含模型名称、是否流式传输以及提示内容。

使用 Open WebUI

拉取 Open WebUI 镜像：

docker pull ghcr.io/open-webui/open-webui:main

运行 Open WebUI 容器：

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

确保 Ollama 中的模型处于运行状态。

访问 WebUI： 打开浏览器，输入 http://localhost:3000/，进入 WebUI 界面。

配置 WebUI：

在 WebUI 界面中，选择“Settings → Connections”，禁用 OpenAI API 集成。

在 Ollama API 字段中，输入 Ollama 的本地地址（通常是
http://host.docker.internal:11434）。

点击“Save”保存设置。

相关推荐

当 Linux 根分区 (/) 已满时如何释放空间?

根分区（/）是Linux文件系统的核心，包含操作系统核心文件、配置文件、日志文件、缓存和用户数据等。当根分区满载时，系统可能出现无法写入新文件、应用程序崩溃甚至无法启动的情况。常见原因包括：「日志文件...

linux系统监控工具小神器:btop（linux网络监控工具）

top是大家常用的实时系统监控工具，今天给大家介绍一款非常酷炫的实时系统监控工具btop，用了之后你一定会爱上它！btop是一个高级的实时系统监控工具，它是传统top命令的现代替代品，提供了丰富...

又一全新恶意软件曝光!专门针对Windows、Linux 和 macOS 用户

近日，网络安全研究人员发现了一个利用“CheanaStealer”恶意软件的复杂网络钓鱼活动，该恶意软件是通过一个VPN钓鱼网站传播的。这次攻击的主要目标是各种操作系统的用户，包括Wind...

Java程序员必备的Linux命令全解析

Java程序员必备的Linux命令全解析作为一名Java开发者，除了精通Java语法和框架外，掌握一些基础的Linux命令也是十分必要的。这不仅能提高你的工作效率，还能让你更好地管理和部署Java应用...

Linux基础知识之shell实现用户管理功能

[root@k8s-mastershell]#moreusermanager.sh#!/bin/bashRED='\033[0;31m'GREEN='\033[...

惊艳!Linux 中迷人的 Shell 脚本工具

如果您是Linux操作系统爱好者或正在将自己定义为一个爱好者，那么与shell脚本交叉的路径是完全不可避免的。根据定义，shell脚本是设计用于在Unix/Linuxshell环境中执...

【shell编程】你的第一个sh脚本（shell脚本编程教程）

vimhello.sh#!/bin/bash#注释echo-e"HelloWorld!\a\n"exit0第一行#!/bin/bash，作用是宣告这个文件内的语...

linux之bash、sh和dash（linux里bash命令）

linux系统里有sh、bash、dash等多种shell的解释器命令，其中sh是shll的缩写，是linux系统默认的shell解释器，bash则是sh命令的增强版，dash则是从netbsd派生而...

14、linux命令-du（linux命令-s）

14、linux命令-du常用命令du-sh/*#显示指定目录下每个文件或目录的容量大小，并且以易读方式显示(常用)。du命令概述du命令作用是估计文件系统的磁盘已使用量，常用于查看文件或目录...

Manjaro Linux:属于我的Linux体验

从Debiantesting切换回Manjarotesting前端使用好久的Manjarotesting切换到了Debiantesting，就是因为有一些包只有deb版本，适配了Debia...

小狼毫 0.17.0 更新，解锁输入新姿势!

0.17.0版本（2025年5月17日发布）这次更新可不少东西呢！先把librime升级到1.13.1版本啦，也不知道这升级之后会带来啥新变化，用用就知道咯。之前老是出问题的托...

Kali Linux 初始配置（kali linux2019默认用户名和密码）

1.更新源&升级系统sudoaptupdate&&sudoaptupgrade-ysudoaptdist-upgrade-y作用：确保所有工具和系统补丁为最新，避免...

怎样利用锤子手机和讯飞手机输入法，让电脑动起来

在大家看来，老罗的发布会捧红了科大讯飞。小编当时就被老罗洗脑了，立刻下载了讯飞输入法体验了一番。后来小编突发奇想，我经常使用向日葵远程控制电脑，如果远程控制电脑时使用讯飞，能否在电脑上完成语音输入？或...

装好KALI之后，急需做的两个事情，更新源和添加输入法

每次当我们装完系统之后，突然发现很茫然，为什么要装这个系统？也就是说我们压根儿就不知道装这个系统是为了做什么。而且刚装好的系统体验起来，好像也并没有网上说的那么好。之前想做的种种操作现在也就不了了之了...

Linux 依赖问题“硬核”解决方案 | 技术

编者按：本文介绍了一些另类的暴力破解RPM和DEB软件包依赖关系的方法，对陷入依赖陷阱而不可自拔的人来说，有时候这也是一种绝地求生之路。至于说这样做是否合适，那就是一件见仁见智的事情了，不过这...

一周热门
最近发表
标签列表