编程开源技术交流,分享技术与知识

网站首页 > 开源技术 正文

使用EFK快速搭建安全可靠的日志服务体系

wxchong 2024-10-14 17:53:14 开源技术 23 ℃ 0 评论

概述

前面介绍了公司环境部署EFK环境,因为那边环境可以上外网,所以实际上是用了yum方式来部署的,而这个云环境是没法上外网,所以用的是编译安装的方式。平台采用EFK(ElasticSearch-6.6.1 + FileBeat-6.6.2 + Kibana-6.6.1)架构。建议三个组件主次版本保持一致。


一、部署ES服务

Elasticsearch 是一个开源的搜索引擎,建立在全文搜索引擎库 Apache Lucene 基础之上用 Java 编写的,它的内部使用 Lucene 做索引与搜索,但是它的目的是使全文检索变得简单, 通过隐藏 Lucene 的复杂性,取而代之的提供一套简单一致的 RESTful API。

1、环境

其中配置安装jdk1.8,这里省略

# vi /etc/security/limits.conf
============================
* hard nofile 65536
* soft nofile 65536
* soft nproc 65536
* hard nproc 65536
=============================
?
#vi /etc/sysctl.conf 
=============================
vm.max_map_count=655360
=============================
# sysctl -p

2、创建用户及目录

groupadd es
useradd -g es es -m
passwd es (密码设置为fswl@1234)
mkdir -p /data/data
mkdir -p /data/log
chown -R es:es /data
chmod -R 755 /data

3、下载安装

9200 对外服务的http 端口

9300 节点间通信的tcp端口

下载:https://www.elastic.co/guide/en/elasticsearch/reference/6.6/index.html

wget https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-6.6.1.tar.gz
tar -xvf elasticsearch-6.6.1.tar.gz -C /usr/local
chown -R es:es /usr/local/elasticsearch-6.6.1

4、修改配置

/usr/local/elasticsearch-6.6.1/config/elasticsearch.yml

# su - es
$ cd /usr/local/elasticsearch-6.6.1/config/
$ egrep -v "^$|^#" elasticsearch.yml

5、后台启动

su - es 
cd /usr/local/elasticsearch-6.6.1/bin
./elasticsearch -d

二、部署kibana

Kibana是一个针对Elasticsearch的开源分析及可视化平台,用来搜索、查看交互存储在Elasticsearch索引中的数据。

官方地址:https://www.elastic.co/cn/products/kibana

1、下载安装

wget https://artifacts.elastic.co/downloads/kibana/kibana-6.6.1-linux-x86_64.tar.gz
tar -xvf kibana-6.6.1-linux-x86_64.tar.gz -C /usr/local/
mv /usr/local/kibana-6.6.1-linux-x86_64/ /usr/local/kibana
chmod -R 755 /usr/local/kibana

2、安装sentinl插件

/usr/local/kibana/bin/kibana-plugin install file:///opt/sentinl-v6.6.1.zip

注意版本需完全一致。

3、修改配置

egrep -v "^$|^#" kibana.yml

4、启动kibana

nohup ./kibana &

5、测试

访问地址:服务器ip:5601


三、部署filebeat

1、下载指定版本

第一步:进入Elasticsearch的官网

https://www.elastic.co/

第二步:点击downloads

第三步:选择Filebeat

第四步: 选择past releases

第五步:选择

https://www.elastic.co/cn/downloads/past-releases/filebeat-6-6-2

2、安装filebeat

tar -xvf filebeat-6.6.2-linux-x86_64.tar.gz -C /usr/local
mv /usr/local/filebeat-6.6.2-linux-x86_64 /usr/local/filebeat
chmod -R 755 /usr/local/filebeat

3、 修改配置文件:

WEB-INF/classes/logback.xml指定输出日志目录:

 <!-- 定义日志文件 输出位置 -->
<property name="log_dir" value="/ams_logs"/>
<!-- 日志最大的历史 30天 -->
<property name="maxHistory" value="30"/>

filebeat.yml指定日志收集目录:

filebeat.yml日志输出,绑定elasticsearchIP地址

#-------------------------- Elasticsearch output ------------------------------
output.elasticsearch:
 # Array of hosts to connect to.
 hosts: ["ES服务器IP:9200"]

4、启动filebeat

--测试启动:
./filebeat -e -c filebeat.yml -d "plish"
--后台启动
ps -ef|grep filebeat|grep -v grep | awk '{print $2}'|xargs kill -9
nohup ./filebeat -e -c filebeat.yml >nohup.out 2>&1 & 
tail -f nohup.out 

到这里就完成EFK的搭建步骤了。


觉得有用的朋友多帮忙转发哦!后面会分享更多devops和DBA方面的内容,感兴趣的朋友可以关注下~

Tags:

本文暂时没有评论,来添加一个吧(●'◡'●)

欢迎 发表评论:

最近发表
标签列表