Linux 自建 ELK Stack 日志分析平台Elasticsearch +Logstash +Kibana
ahcoder 2025-05-16 11:10 7 浏览
一、前言
在现代 IT 系统中,日志采集、存储和分析至关重要。
ELK Stack(Elasticsearch、Logstash、Kibana)是目前最流行的一套日志解决方案,广泛应用于运维监控、安全分析、业务洞察等场景。
本文将带你从0到1,基于 Linux 搭建一套完整的 ELK 日志分析平台,并实现日志采集到可视化展示的完整流程。
二、环境准备
- Linux 服务器(建议配置 4C8G 以上)
- Docker 与 Docker Compose 已安装
- 开放必要端口:9200(Elasticsearch)、5601(Kibana)、5044(Logstash)
三、部署 ELK Stack
1. 创建项目目录
mkdir -p ~/elk-stack
cd ~/elk-stack
2. 编写
docker-compose.yml
创建文件 docker-compose.yml,内容如下:
version: '3'
services:
elasticsearch:
image: docker.elastic.co/elasticsearch/elasticsearch:7.17.9
container_name: elasticsearch
environment:
- discovery.type=single-node
- bootstrap.memory_lock=true
- ES_JAVA_OPTS=-Xms512m -Xmx512m
ulimits:
memlock:
soft: -1
hard: -1
volumes:
- esdata:/usr/share/elasticsearch/data
ports:
- "9200:9200"
logstash:
image: docker.elastic.co/logstash/logstash:7.17.9
container_name: logstash
volumes:
- ./logstash/config:/usr/share/logstash/config
- ./logstash/pipeline:/usr/share/logstash/pipeline
ports:
- "5044:5044"
kibana:
image: docker.elastic.co/kibana/kibana:7.17.9
container_name: kibana
environment:
ELASTICSEARCH_HOSTS: http://elasticsearch:9200
ports:
- "5601:5601"
volumes:
esdata:
3. 配置 Logstash
创建目录结构:
mkdir -p logstash/config
mkdir -p logstash/pipeline
在 logstash/pipeline 目录下,创建 logstash.conf:
input {
beats {
port => 5044
}
}
output {
elasticsearch {
hosts => ["http://elasticsearch:9200"]
index => "logstash-%{+YYYY.MM.dd}"
}
}
简单配置即可先收集通过 Filebeat 等客户端发送过来的日志数据。
四、启动 ELK Stack
在 ~/elk-stack 目录下执行:
docker-compose up -d
检查容器是否运行正常:
docker ps
确认 elasticsearch、logstash、kibana 容器均在运行。
五、访问与测试
1. 访问 Kibana
浏览器访问:
http://服务器IP:5601
进入 Kibana Web 界面,首次启动需要稍等几分钟。
2. 测试日志采集
可以在另外一台服务器部署 Filebeat(或直接用 curl 模拟日志发送到 Logstash)。
示例 curl 测试发送:
curl -XPOST 'http://服务器IP:5044' -d '{"message":"Hello ELK!"}'
在 Kibana 中配置索引模式(Index Patterns),即可开始查询和可视化日志。
六、常见问题与优化
- 内存优化:生产环境需要合理调整 Elasticsearch、Logstash 的 JVM 内存参数。
- 安全加固:部署 HTTPS、启用用户认证,保护日志数据。
- 扩展集群:Elasticsearch 支持水平扩展,提升存储与查询能力。
- 多来源日志收集:Logstash 可以配置多个 input,收集不同来源的日志数据。
七、总结
通过本篇文章,你已经掌握了:
- 如何基于 Linux 快速搭建 ELK 日志分析平台
- 如何收集、存储、查询和可视化日志数据
- 如何为生产环境扩展与优化 ELK Stack
未来可以在此基础上集成 Alerting、机器学习分析模块,构建更加智能化的日志监控与告警系统!
相关推荐
- 当 Linux 根分区 (/) 已满时如何释放空间?
-
根分区(/)是Linux文件系统的核心,包含操作系统核心文件、配置文件、日志文件、缓存和用户数据等。当根分区满载时,系统可能出现无法写入新文件、应用程序崩溃甚至无法启动的情况。常见原因包括:「日志文件...
- linux系统监控工具小神器:btop(linux网络监控工具)
-
top是大家常用的实时系统监控工具,今天给大家介绍一款非常酷炫的实时系统监控工具btop,用了之后你一定会爱上它!btop是一个高级的实时系统监控工具,它是传统top命令的现代替代品,提供了丰富...
- 又一全新恶意软件曝光!专门针对Windows、Linux 和 macOS 用户
-
近日,网络安全研究人员发现了一个利用“CheanaStealer”恶意软件的复杂网络钓鱼活动,该恶意软件是通过一个VPN钓鱼网站传播的。这次攻击的主要目标是各种操作系统的用户,包括Wind...
- Java程序员必备的Linux命令全解析
-
Java程序员必备的Linux命令全解析作为一名Java开发者,除了精通Java语法和框架外,掌握一些基础的Linux命令也是十分必要的。这不仅能提高你的工作效率,还能让你更好地管理和部署Java应用...
- Linux基础知识之shell实现用户管理功能
-
[root@k8s-mastershell]#moreusermanager.sh#!/bin/bashRED='\033[0;31m'GREEN='\033[...
- 惊艳!Linux 中迷人的 Shell 脚本工具
-
如果您是Linux操作系统爱好者或正在将自己定义为一个爱好者,那么与shell脚本交叉的路径是完全不可避免的。根据定义,shell脚本是设计用于在Unix/Linuxshell环境中执...
- 【shell编程】你的第一个sh脚本(shell脚本编程教程)
-
vimhello.sh#!/bin/bash#注释echo-e"HelloWorld!\a\n"exit0第一行#!/bin/bash,作用是宣告这个文件内的语...
- linux之bash、sh和dash(linux里bash命令)
-
linux系统里有sh、bash、dash等多种shell的解释器命令,其中sh是shll的缩写,是linux系统默认的shell解释器,bash则是sh命令的增强版,dash则是从netbsd派生而...
- 14、linux命令-du(linux命令-s)
-
14、linux命令-du常用命令du-sh/*#显示指定目录下每个文件或目录的容量大小,并且以易读方式显示(常用)。du命令概述du命令作用是估计文件系统的磁盘已使用量,常用于查看文件或目录...
- Manjaro Linux:属于我的Linux体验
-
从Debiantesting切换回Manjarotesting前端使用好久的Manjarotesting切换到了Debiantesting,就是因为有一些包只有deb版本,适配了Debia...
- 小狼毫 0.17.0 更新,解锁输入新姿势!
-
0.17.0版本(2025年5月17日发布)这次更新可不少东西呢!先把librime升级到1.13.1版本啦,也不知道这升级之后会带来啥新变化,用用就知道咯。之前老是出问题的托...
- Kali Linux 初始配置(kali linux2019默认用户名和密码)
-
1.更新源&升级系统sudoaptupdate&&sudoaptupgrade-ysudoaptdist-upgrade-y作用:确保所有工具和系统补丁为最新,避免...
- 怎样利用锤子手机和讯飞手机输入法,让电脑动起来
-
在大家看来,老罗的发布会捧红了科大讯飞。小编当时就被老罗洗脑了,立刻下载了讯飞输入法体验了一番。后来小编突发奇想,我经常使用向日葵远程控制电脑,如果远程控制电脑时使用讯飞,能否在电脑上完成语音输入?或...
- 装好KALI之后,急需做的两个事情,更新源和添加输入法
-
每次当我们装完系统之后,突然发现很茫然,为什么要装这个系统?也就是说我们压根儿就不知道装这个系统是为了做什么。而且刚装好的系统体验起来,好像也并没有网上说的那么好。之前想做的种种操作现在也就不了了之了...
- Linux 依赖问题“硬核”解决方案 | 技术
-
编者按:本文介绍了一些另类的暴力破解RPM和DEB软件包依赖关系的方法,对陷入依赖陷阱而不可自拔的人来说,有时候这也是一种绝地求生之路。至于说这样做是否合适,那就是一件见仁见智的事情了,不过这...
- 一周热门
- 最近发表
- 标签列表
-
- linux 远程 (37)
- u盘 linux (32)
- linux 登录 (34)
- linux 路径 (33)
- linux 文件命令 (35)
- linux 是什么 (35)
- linux 界面 (34)
- 查看文件 linux (35)
- linux 语言 (33)
- linux代码 (32)
- linux 查看命令 (33)
- 关闭linux (34)
- root linux (33)
- 删除文件 linux (35)
- linux 主机 (34)
- linux与 (33)
- linux 函数 (35)
- linux .ssh (35)
- cpu linux (35)
- 查看linux 系统 (32)
- linux 防火墙 (33)
- linux 手机 (32)
- linux 镜像 (34)
- linux ip地址 (34)
- linux 用户查看 (33)