百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

Linux 自建 ELK Stack 日志分析平台Elasticsearch +Logstash +Kibana

ahcoder 2025-05-16 11:10 7 浏览

一、前言


在现代 IT 系统中,日志采集、存储和分析至关重要。

ELK Stack(Elasticsearch、Logstash、Kibana)是目前最流行的一套日志解决方案,广泛应用于运维监控、安全分析、业务洞察等场景。


本文将带你从0到1,基于 Linux 搭建一套完整的 ELK 日志分析平台,并实现日志采集到可视化展示的完整流程。





二、环境准备


  • Linux 服务器(建议配置 4C8G 以上)
  • Docker 与 Docker Compose 已安装
  • 开放必要端口:9200(Elasticsearch)、5601(Kibana)、5044(Logstash)






三、部署 ELK Stack


1. 创建项目目录


mkdir -p ~/elk-stack

cd ~/elk-stack


2. 编写

docker-compose.yml

创建文件 docker-compose.yml,内容如下:

version: '3'

services:

elasticsearch:

image: docker.elastic.co/elasticsearch/elasticsearch:7.17.9

container_name: elasticsearch

environment:

- discovery.type=single-node

- bootstrap.memory_lock=true

- ES_JAVA_OPTS=-Xms512m -Xmx512m

ulimits:

memlock:

soft: -1

hard: -1

volumes:

- esdata:/usr/share/elasticsearch/data

ports:

- "9200:9200"


logstash:

image: docker.elastic.co/logstash/logstash:7.17.9

container_name: logstash

volumes:

- ./logstash/config:/usr/share/logstash/config

- ./logstash/pipeline:/usr/share/logstash/pipeline

ports:

- "5044:5044"


kibana:

image: docker.elastic.co/kibana/kibana:7.17.9

container_name: kibana

environment:

ELASTICSEARCH_HOSTS: http://elasticsearch:9200

ports:

- "5601:5601"


volumes:

esdata:


3. 配置 Logstash


创建目录结构:

mkdir -p logstash/config

mkdir -p logstash/pipeline

在 logstash/pipeline 目录下,创建 logstash.conf:

input {

beats {

port => 5044

}

}


output {

elasticsearch {

hosts => ["http://elasticsearch:9200"]

index => "logstash-%{+YYYY.MM.dd}"

}

}

简单配置即可先收集通过 Filebeat 等客户端发送过来的日志数据。





四、启动 ELK Stack


在 ~/elk-stack 目录下执行:

docker-compose up -d

检查容器是否运行正常:

docker ps

确认 elasticsearch、logstash、kibana 容器均在运行。





五、访问与测试


1. 访问 Kibana


浏览器访问:

http://服务器IP:5601

进入 Kibana Web 界面,首次启动需要稍等几分钟。


2. 测试日志采集


可以在另外一台服务器部署 Filebeat(或直接用 curl 模拟日志发送到 Logstash)。


示例 curl 测试发送:

curl -XPOST 'http://服务器IP:5044' -d '{"message":"Hello ELK!"}'

在 Kibana 中配置索引模式(Index Patterns),即可开始查询和可视化日志。





六、常见问题与优化

  • 内存优化:生产环境需要合理调整 Elasticsearch、Logstash 的 JVM 内存参数。
  • 安全加固:部署 HTTPS、启用用户认证,保护日志数据。
  • 扩展集群:Elasticsearch 支持水平扩展,提升存储与查询能力。
  • 多来源日志收集:Logstash 可以配置多个 input,收集不同来源的日志数据。



七、总结

通过本篇文章,你已经掌握了:

  • 如何基于 Linux 快速搭建 ELK 日志分析平台
  • 如何收集、存储、查询和可视化日志数据
  • 如何为生产环境扩展与优化 ELK Stack



未来可以在此基础上集成 Alerting、机器学习分析模块,构建更加智能化的日志监控与告警系统!

相关推荐

当 Linux 根分区 (/) 已满时如何释放空间?

根分区(/)是Linux文件系统的核心,包含操作系统核心文件、配置文件、日志文件、缓存和用户数据等。当根分区满载时,系统可能出现无法写入新文件、应用程序崩溃甚至无法启动的情况。常见原因包括:「日志文件...

linux系统监控工具小神器:btop(linux网络监控工具)

top是大家常用的实时系统监控工具,今天给大家介绍一款非常酷炫的实时系统监控工具btop,用了之后你一定会爱上它!btop是一个高级的实时系统监控工具,它是传统top命令的现代替代品,提供了丰富...

又一全新恶意软件曝光!专门针对Windows、Linux 和 macOS 用户

近日,网络安全研究人员发现了一个利用“CheanaStealer”恶意软件的复杂网络钓鱼活动,该恶意软件是通过一个VPN钓鱼网站传播的。这次攻击的主要目标是各种操作系统的用户,包括Wind...

Java程序员必备的Linux命令全解析

Java程序员必备的Linux命令全解析作为一名Java开发者,除了精通Java语法和框架外,掌握一些基础的Linux命令也是十分必要的。这不仅能提高你的工作效率,还能让你更好地管理和部署Java应用...

Linux基础知识之shell实现用户管理功能

[root@k8s-mastershell]#moreusermanager.sh#!/bin/bashRED='\033[0;31m'GREEN='\033[...

惊艳!Linux 中迷人的 Shell 脚本工具

如果您是Linux操作系统爱好者或正在将自己定义为一个爱好者,那么与shell脚本交叉的路径是完全不可避免的。根据定义,shell脚本是设计用于在Unix/Linuxshell环境中执...

【shell编程】你的第一个sh脚本(shell脚本编程教程)

vimhello.sh#!/bin/bash#注释echo-e"HelloWorld!\a\n"exit0第一行#!/bin/bash,作用是宣告这个文件内的语...

linux之bash、sh和dash(linux里bash命令)

linux系统里有sh、bash、dash等多种shell的解释器命令,其中sh是shll的缩写,是linux系统默认的shell解释器,bash则是sh命令的增强版,dash则是从netbsd派生而...

14、linux命令-du(linux命令-s)

14、linux命令-du常用命令du-sh/*#显示指定目录下每个文件或目录的容量大小,并且以易读方式显示(常用)。du命令概述du命令作用是估计文件系统的磁盘已使用量,常用于查看文件或目录...

Manjaro Linux:属于我的Linux体验

从Debiantesting切换回Manjarotesting前端使用好久的Manjarotesting切换到了Debiantesting,就是因为有一些包只有deb版本,适配了Debia...

小狼毫 0.17.0 更新,解锁输入新姿势!

0.17.0版本(2025年5月17日发布)这次更新可不少东西呢!先把librime升级到1.13.1版本啦,也不知道这升级之后会带来啥新变化,用用就知道咯。之前老是出问题的托...

Kali Linux 初始配置(kali linux2019默认用户名和密码)

1.更新源&升级系统sudoaptupdate&&sudoaptupgrade-ysudoaptdist-upgrade-y作用:确保所有工具和系统补丁为最新,避免...

怎样利用锤子手机和讯飞手机输入法,让电脑动起来

在大家看来,老罗的发布会捧红了科大讯飞。小编当时就被老罗洗脑了,立刻下载了讯飞输入法体验了一番。后来小编突发奇想,我经常使用向日葵远程控制电脑,如果远程控制电脑时使用讯飞,能否在电脑上完成语音输入?或...

装好KALI之后,急需做的两个事情,更新源和添加输入法

每次当我们装完系统之后,突然发现很茫然,为什么要装这个系统?也就是说我们压根儿就不知道装这个系统是为了做什么。而且刚装好的系统体验起来,好像也并没有网上说的那么好。之前想做的种种操作现在也就不了了之了...

Linux 依赖问题“硬核”解决方案 | 技术

编者按:本文介绍了一些另类的暴力破解RPM和DEB软件包依赖关系的方法,对陷入依赖陷阱而不可自拔的人来说,有时候这也是一种绝地求生之路。至于说这样做是否合适,那就是一件见仁见智的事情了,不过这...