配置主机名
hostnamectl set-hostname deepseek
关闭防火墙
systemctl stop firewalld || systemctl disable firewalld
关闭selinux
setenforce 0
sed -i "s/SELINUX=enforcing/SELINUX=disabled/" /etc/selinux/config
下载阿里源
wget -O /etc/yum.repos.d/CentOS-Base.repo http://mirrors.aliyun.com/repo/Centos-7.repo
进入官网Ollama
下载:https://ollama.com/ //建议开启代理
curl -fsSL https://ollama.com/install.sh | sh //下载
查看命令是否可以使用
ollama list
下载模型
ollama run deepseek-r1:1.5b
安装docker
时间同步
ntpdate ntp1.aliyun.com
安装阿里云:
wget -O /etc/yum.repos.d/CentOS-Base.repo http://mirrors.aliyun.com/repo/Centos-7.repo
安装依赖包:
yum -y install gcc gcc-c++ yum-utils
yum-config-manager --add-repo https://download.docker.com/linux/centos/docker-ce.repo
yum makecache fast
安装docker
yum install docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin
查看版本:
docker version
docker info查看加速是否成功
systemctl enable --now docker //启动docker
systemctl status docker //查看状态
vim /etc/docker/daemon.json
{
"registry-mirrors": ["https://docker.registry.cyou",
"https://docker-cf.registry.cyou",
"https://dockercf.jsdelivr.fyi",
"https://docker.jsdelivr.fyi",
"https://dockertest.jsdelivr.fyi",
"https://mirror.aliyuncs.com",
"https://dockerproxy.com",
"https://mirror.baidubce.com",
"https://docker.m.daocloud.io",
"https://docker.nju.edu.cn",
"https://docker.mirrors.sjtug.sjtu.edu.cn",
"https://docker.mirrors.ustc.edu.cn",
"https://mirror.iscas.ac.cn",
"https://docker.rainbond.cc"]
}
systemctl daemon-reload
systemctl restart docker
拉取openui镜像
#国内源
docker pull ghcr.nju.edu.cn/open-webui/open-webui:main
#国外源
docker pull ghcr.io/open-webui/open-webui:main
启动openui
docker run -d --net=host \
-e PORT=3000 \
-e OLLAMA_BASE_URL=http://127.0.0.1:11434 \
-e ENABLE_SIGNUP=true \
-e ENABLE_OPENAI_API=False \
-v open-webui:/app/backend/data \
--name open-webui --restart always \
ghcr.io/open-webui/open-webui:main
访问界面
192.168.80.130:3000