大秀网站直播

[[416439]]

本文转载自微信公众号「无敌码农」,作家无敌码农。转载本文请干系无敌码农公众号。

今天的著作给全国先容下Elasticsearch这一当今在“搜索”和“分析”范畴使用十分鄙俚的期间组件。并演示如何快速构建一个Elasticsearch集群。

Elasticsearch玄虚

Elasticsearch是一款尽头高大的开源“搜索”及“分析”引擎。除了搜索,继续Kibana、Logstash、Beats,以及Elastic Stack的期间生态,Elasticsearch还被鄙俚欺诈在大数据实期间析范畴——包括日记分析(ELK)、地点监控、信息安全等范畴。

Elasticsearch发祥于开源搜索引擎类库Lucene,Elasticsearch的首创东说念主Shay Banon于2004年基于Lucene开发了“Compass”,并在2010年重写“Compass”样式之后,将其致密定名为“Elasticsearch”。

当今在搜索引擎分类名次中Elasticsearch名列第一,除此除外,同类的居品还有Solor(Apache开源样式)和Splunk(生意样式),它们三者提供的功能尽头相似。关联词在表率员开源社区中Elasticsearch的活跃度最高。

Elasticsearch的功能特色

Elasticsearchs是一种典型的散播式系统,支抓水平推广。当数据范围变大的时候,Elasticsearch的集群节点不错从单个推广到数百个。

Elasticsearch集群还支抓开荒不同的节点类型。举例针对日记类的应用不错支抓Hot&Warm架构——冷热架构部署。Elasticsearch的散播式架构如下图所示:

除此除外,Elasticsearch还支抓多种形貌集成接入。举例,不错被多种谈话浅薄的集成(Java、.Net、Python、PHP..);纯的确RESTful API;最新版块以致还支抓JDBC&ODBC形貌的接入。

Elastic Stack家眷成员

Elasticsearch之是以如斯流行,处理活跃的社区外,很紧迫的少许就在于其背后还有一个高大的生意公司——Elastic在撑抓。Elastic Stack的生态圈,如下图所示:

接下来诀别先容下Elastic Stack各期间组件的用途,具体如下:

Logstash

开源的工作器端数据处理管说念,支抓从不同开端集会数据,退换数据,并将数据发送到不同的存储库中。2013年被Elasticsearch收购。

Logstash支抓及时剖判和退换数据,举例,从IP地址破译出地舆坐标,以及将

PII数据匿名化,透顶摈斥敏锐字段等。此外,Logstash还支抓插件的推广形貌,当今大致有200多个插件,不错惩办日记、数据库等多种场景的骨子需求。

另外,Logstash的可靠性及安全性也很高。Logstash和会过抓久化队伍来保证至少将运行中的事件投递一次,以及支抓数据传输加密。

Kibana

基于Logstash的数据可视化分析器具。

Beats

轻量的数据集会器,Go谈话开发,运行速率尽头快。场景的Beats插件有:Filebeat(日记文献插件)、Packetbeat、Heartbeat等。

X-Pack(生意化套件-已开源)

X-Pack开源之后,部分X-Pack功能支抓免费使用,举例6.8和7.1版块运转,柬埔寨修车群Security功能不错免费使用。

Elastic Stack应用场景

Elastic Stack期间栈常见的应用场景如下:

(1)搜索场景下的Elasticsearch与数据库的集成

在搜索场景下不错顺利落寞使用Elasticsearch来存储数据,但关于绝大巨额业务系统来说王人是用的是传统数据库,是以Elasticsearch竣事搜索一般聘请与数据库集成的决议。如下图所示:

(2)地点分析与日记分析

除了搜索场景外,Elastic Stask还被鄙俚应用在地点分析及日记分析范畴。如下图所示:

通过代码和Beats形貌集会数据,并将集会的数据发送至数据缓冲区(举例Kafka,主淌若为了减少Elasticsearch的并发压力),然后通过Logstash完成数据的退换团员,并将数据存储至Elasticsearch。终末,就不错使用Kibana或Grafana来可视化查询Elasticsearch中的数据了。

搭建一个Elasticsearch集群

接下来演示部署一个Elasticsearch集群。表率如下。

(1)下载Elasticsearch装配包。

从Elastic官网下载最新版块的Elasticsearch的二进制装配包。号令如下:

wget 大秀网站直播https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-7.14.0-darwin-x86_64.tar.gz 

这里下载的是最新7.14.0的版块,因为是在Mac装配,是以聘请的是MacOS版块。之后,将二进制装配文献解压至工作器指定目次,号令如下:

$ tar zxvf elasticsearch-7.14.0-darwin-x86_64.tar.gz 

解压后的装配目次结构阐述如下:

修改JVM竖立——config/jvm.options。最新版块会默许凭据机器的可用内存自动开荒。竖立漠视如下:

Xmx和Xms开荒成相似。 Xmx不要当先机器内存的50%。 不要当先30GB

(2)运行多个Elasticsearch实例的集群。

Elasticsearch不错在多个不同的机器节点运行多个实例,从而构成一个大的集群。为了下一步学习Elasticsearch集群职责的机制,接下来演示在腹地同期启动多个Elasticsearch实例,来构成一个集群。

启动号令如下:

./bin/elasticsearch -E  node.name=node0 -E node.master=true -E node.ingest=false -E node.data=false -E cluster.name=mafengwoEs -E http.port=9201 -E path.data=node0_data -d  ./bin/elasticsearch -E  node.name=node1 -E node.master=false -E node.ingest=false -E node.data=true -E cluster.name=mafengwoEs -E http.port=9202 -E path.data=node1_data -d  ./bin/elasticsearch -E  node.name=node3 -E node.master=false -E node.ingest=false -E node.data=false -E cluster.name=mafengwoEs -E http.port=9204 -E path.data=node3_data -d 

-E参数用于设定“config/elasticsearch.yml”文献中的参数,在本机不同端口诀别启动多个elasticsearch实例,并诀别开荒不同的节点脚色类型。本机资源有限,只可run 3个节点!

(2)浏览器通过API检讨Elasticserach集群节点信息

运行顺利后,不错使用浏览器通过API来检讨Elasticsearch的集群信息,号令如下:

http://127.0.0.1:9201/_cat/nodes               127.0.0.1 47 100 45 15.15   cdfhilmrstw - node1               127.0.0.1 11 100 45 15.15   cdfhilmrstw * node0               127.0.0.1 32 100 45 15.15   cdfhilmrstw - node3               127.0.0.1 15 100 45 15.15   cdfhilmrstw - node2 

不错看到多个实例的Elasticsearch集群就部署顺利了!

装配Kibana可视化界面

接下来装配Kibanka可视化器具,来探望Elasticsearch集群。表率如下。

(1)下载Kibana装配包

号令如下:

$ wget https://artifacts.elastic.co/downloads/kibana/kibana-7.14.0-darwin-x86_64.tar.gz 

下载最新的7.14.0版块的MacOS二进制装配包。之后解压下载的装配包,号令如下:

$ tar zxvf kibana-7.14.0-darwin-x86_64.tar.gz 

(2)裁剪conf/kibana.yaml文献,指定elasticsearch集群实例的地址

裁剪竖立文献,指定Elasticsearch的集群地址,修改的内容如下:

# The URLs of the Elasticsearch instances to use for all your queries. elasticsearch.hosts: ["http://localhost:9204","http://localhost:9201","http://localhost:9203"] 

(3)启动Kibana

启动Kibana,号令如下:

$ ./bin/kibana 

此时,怒放浏览器参预Kibana的首页,如下图所示:

如上图所示,不错向Elasticsearch集群中添加Kibana提供的样例数据。

(4)使用Kibana的“Dev Tools”器具

Kibana的“Dev Tools”器具,大要匡助咱们很浅薄践诺一些elasticsearch的API。如下图所示:

具体的查询号令如下:

#践诺查询集群节点景象的API。 get /_cat/nodes/?v 
跋文

 

Elasticsearch当今使用的尽头鄙俚,本文仅仅不详先容了Elasticsearch的基本情况,并不详搭建了一个Elasticsearch的多实例集群。在后头的著作中,作家将不依期共享一些Elasticsearch的学问及推行。

 






Powered by 柬埔寨修车群 @2013-2022 RSS地图 HTML地图

Copyright Powered by365建站 © 2013-2025