百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

Linux下ollama修改默认监听地址(linux监听文件修改)

ahcoder 2025-03-14 14:25 7 浏览

默认情况

默认情况下ollama监控的是127.0.0.1的11434端口,只能通过本机连接,如果需要通过其它机器的应用无法连接。监听情况如下:

root@docker:~/.ollama# netstat -tunlp | grep 11
tcp        0      0 127.0.0.1:34861         0.0.0.0:*               LISTEN      1136/containerd
tcp        0      0 127.0.0.1:11434         0.0.0.0:*               LISTEN      72188/ollama
tcp        0      0 127.0.0.1:6010          0.0.0.0:*               LISTEN      9118/sshd: root@pts
tcp        0      0 127.0.0.1:6011          0.0.0.0:*               LISTEN      23254/sshd: root@pt
tcp6       0      0 ::1:6010                :::*                    LISTEN      9118/sshd: root@pts
tcp6       0      0 ::1:6011                :::*                    LISTEN      23254/sshd: root@pt

修改步骤

先使用systemctl status ollama查看.service文件的位置

root@docker:~# systemctl status ollama
● ollama.service - Ollama Service
     Loaded: loaded (/etc/systemd/system/ollama.service; enabled; preset: enabled)
     Active: active (running) since Wed 2025-02-05 08:53:06 UTC; 19min ago
   Main PID: 25690 (ollama)
      Tasks: 23 (limit: 19104)
     Memory: 6.3G (peak: 11.3G)
        CPU: 17min 56.220s
     CGroup: /system.slice/ollama.service
             ├─25690 /usr/local/bin/ollama serve
             └─42633 /usr/local/lib/ollama/runners/cpu_avx2/ollama_llama_server runner --model /usr/share/ollama/.ollama/models/blobs/sha256-aabd4debf0c8f08881923f2c25fc0fdeed24435271c2b3e92c4af3670404>

Feb 05 09:07:14 docker ollama[25690]: llama_new_context_with_model: KV self size  =  224.00 MiB, K (f16):  112.00 MiB, V (f16):  112.00 MiB
Feb 05 09:07:14 docker ollama[25690]: llama_new_context_with_model:        CPU  output buffer size =     2.34 MiB
Feb 05 09:07:14 docker ollama[25690]: llama_new_context_with_model:        CPU compute buffer size =   302.75 MiB
Feb 05 09:07:14 docker ollama[25690]: llama_new_context_with_model: graph nodes  = 986
Feb 05 09:07:14 docker ollama[25690]: llama_new_context_with_model: graph splits = 1
Feb 05 09:07:14 docker ollama[25690]: time=2025-02-05T09:07:14.650Z level=INFO source=server.go:594 msg="llama runner started in 2.51 seconds"
Feb 05 09:07:14 docker ollama[25690]: [GIN] 2025/02/05 - 09:07:14 | 200 |  2.586010861s |       127.0.0.1 | POST     "/api/generate"
Feb 05 09:08:16 docker ollama[25690]: [GIN] 2025/02/05 - 09:08:16 | 200 |  2.854109831s |       127.0.0.1 | POST     "/api/chat"
Feb 05 09:09:10 docker ollama[25690]: [GIN] 2025/02/05 - 09:09:10 | 200 |       58.04us |       127.0.0.1 | HEAD     "/"
Feb 05 09:09:10 docker ollama[25690]: [GIN] 2025/02/05 - 09:09:10 | 200 |    1.144422ms |       127.0.0.1 | GET      "/api/tags"

停止ollama服务

systemctl restart ollama


然后编辑/etc/systemd/system/ollama.service这个文件,在[Service]这个标签中添加Environment="OLLAMA_HOST=0.0.0.0:11434",配置后如下:

[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/local/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin:/usr/games:/usr/local/games:/snap/bin"
Environment="OLLAMA_HOST=0.0.0.0:11434"

[Install]
WantedBy=default.targe

然后执行以下命令

systemctl daemon-reload
systemctl restart ollama

最后再确认11434端口不再是关联127.0.0.1的地址

root@docker:~/.ollama# netstat -tunlp | grep 11
tcp        0      0 127.0.0.1:34861         0.0.0.0:*               LISTEN      1136/containerd
tcp        0      0 127.0.0.1:6010          0.0.0.0:*               LISTEN      9118/sshd: root@pts
tcp        0      0 127.0.0.1:6011          0.0.0.0:*               LISTEN      23254/sshd: root@pt
tcp6       0      0 :::11434                :::*                    LISTEN      73183/ollama
tcp6       0      0 ::1:6010                :::*                    LISTEN      9118/sshd: root@pts
tcp6       0      0 ::1:6011                :::*                    LISTEN      23254/sshd: root@pt

这时就可以在其它电脑上使用了。

相关推荐

ARM64内核内存布局图(ARM64内核内存布局图解)

ARM64架构处理器采用48位物理寻址机制,最大可以寻找到256TB的物理地址空间。对于目前的应用来说已经足够了,不需要扩展到64位的物理地址寻址。虚拟地址也同样最大支持48位支持,所以在处理器的架构...

ARM64 linux 调试串口通信(ARM64 linux 调试串口通信实验报告)

ARM64linux调试串口通信随着国产机普及很多工作也转移到了新平台上,以前调试设备用的笔记本电脑也换成新国产ARM64架构的了。本文以绿联CM204USB-A转RJ45Console调试线...

Gentoo Linux 终止对 Itanium IA-64 体系的支持

GentooLinux是最后几个继续维护Itanium(IA-64)架构构建的Linux发行版之一,但现在这些已停产的英特尔处理器正在逐步淘汰。由于Linux6.7内核放弃了对Itan...

如何检查 Linux 系统是 32 位还是 64 位?这9个命令查的又快又准!

在Linux系统中,位数(bit)通常指的是CPU架构的位宽,即CPU一次能够处理的数据量。32位系统和64位系统在内存寻址能力、计算性能和软件支持上存在显著差异:「32位系统」:...

调出好画面!带你玩转飞凌嵌入式AM62x开发板的显示接口

来源:飞凌嵌入式官网“显示”是嵌入式开发板最为重要的功能之一,能够支持更多种类、更高规格的显示接口,意味着它能够应对的使用场景也更加广泛。每一款嵌入式开发板在出厂前都会做屏幕调试,但在客户的实际项目开...

带你玩转AM62x开发板的显示接口——LVDS的显示和修改方式

此前小编已为大家介绍过OK6254-C开发板的RGB显示和修改方式,今天将继续为大家介绍OK6254-C开发板的LVDS显示和修改方式。话不多说,我们进入正题。1、LVDS接口规格飞凌嵌入式OK62...

AM335x继任者?AM6254性能解析(am2361p)

飞凌嵌入式FET6254-C核心板基于TISitaraTMAM62x系列工业级处理器设计开发,采用ARMCortex-A53架构,主频最高可达1.4GHz;并集成了丰富的接口,可广泛应用于的工...

如何在 Linux 发行版中安装微信和 QQ?

很多人因为工作沟通的原因需要用到微信和QQ,那么如何在Linux发行版中安装微信和QQ呢?以下是一些尝试的解决方法。QQ上一个版本的QQLinux版还是在2009年,而在现在,基于N...

MySQL:物理备份工具XBK(mysql 备份方案)

XBK的优缺点:XBK(PerconaXtraBackup)优点:1.免费2.热备:备份期间不阻塞innodb和XtraDB表,但会阻塞Myisam表3.物理备份:备份恢复快XBK缺点:1.不支持远...

AMD锐龙9 9950X CPU AIDA64跑分曝光:比7950X最高快45%

IT之家6月26日消息,Anandtech论坛网友igor_kavinski本周一发布帖子,分享了AMD旗舰锐龙99950X处理器的AIDA64基准测试跑分,与当前基于Z...

qemu linux内核(5.10.209)开发环境搭建

版本信息宿主机:ubuntu20.04.6LTS(FocalFossa)虚拟机:ubuntu20.04.6LTS(FocalFossa)安装宿主机的步骤省略,和一般的在vmware中安...

iPhone 7成刷机神器,成功运行乌班图、Linux、安卓

在智能机刚开始流行的时候,很多手机发烧友都喜欢刷机,当时民间大神们制作了特别多优化的ROM。后来随着手机硬件的逐步提升,以及厂商们对系统的大力优化,让大家对于刷机的兴趣也越来越少。不知道大家还记得这部...

12 款最佳免费开源 Linux 渲染器 | 火狐浏览器 130.0 版本更新

12款最佳免费开源Linux渲染器Linux的一大优势在于其拥有丰富的开源软件,可以满足艺术家、摄影师、动画师和设计师的需求。凭借价格低廉的硬件、免费的软件以及少量的才能和灵感,任何人都可以创...

Linux中xargs 命令详解与实用场景

xargs是Linux系统中常用的命令行工具之一,它能够从标准输入构造参数列表并传递给其他命令使用,是处理批量数据操作时的重要利器。一、xargs的基本语法xargs[OPTION]...[C...

Linux 磁盘扩容(非LVM)方式(linux扩容lvm磁盘容量)

今天接到一个客户的需求,CentOS的/分区容量太小了,OA系统所有的数据都在这下面,由于当时前同事给客户安装系统时采用了标准分区,而不是LVM逻辑卷,所以不支持在线扩容。df-hT查看磁盘使...