草庐IT

ElasticSearch(十一)【集群搭建】

Naijia_OvO 2025-04-24 原文

十一、ES集群的相关概念


上一篇文章ElasticSearch - 聚合查询

集群(cluster)

一个集群就是由一个或多个节点组织在一起,它们共同持有你整个的数据,并一起提供索引和搜整合应用索功能一个集群由一个唯一的名字标识,这个名字默认就是elasticsearch。这个名字是重要的,因为一个节点只能通过指定某个集群的名字,来加入这个集群

节点(node)

一个节点是集群中的一个服务器,作为集群的一部分,它存储你的数据,参与集群的索引节点和搜索功能。和集群类似,一个节点也是由一个名字来标识的,默认情况下,这个名字是一个随机的漫威漫画角色的名字,这个名字会在启动的时候赋予节点

索引(Index)

一组相似文档的集合

映射(Mapping)

用来定义索引存储文档的结构如:字段、类型等

文档(Document)

索引中一条记录,可以被索引的最小单元

分片(shards)

ElasticSearch提供了将索引划分成多份的能力,这些份就叫做分片。当你创建一个索引的时候,可以指定想要分片的数量。每个分片本身也就是一个功能完善并且独立的"索引",这个"索引"可以被放置到集群中的任何节点上

复制(replicas)

Index的分片中一份或多份副本

11.1 ElasticSearch集群搭建

集群规划

# 1.先准备3个ES节点,对应端口号9201、9202、9203
- web: 9201 tcp:9301 node-1 elasticsearch.yml
- web: 9202 tcp:9302 node-2 elasticsearch.yml
- web: 9203 tcp:9303 node-3 elasticsearch.yml
  • 注意
    • 所有节点集群名称必须一致,如elasticsearch
    • 每个节点必须有一个唯一名字,node_name
    • 开启每个节点远程连接,network.host:0.0.0.0
    • 指定使用IP地址进行集群节点通信,netword.publish_host
    • 修改 web 端口 tcp 端口,http.port: transport.tcp.port
    • 指定集群中所有节点通信列表,discovery.seed_hosts: node-1 node-2 node-3
    • 允许集群初始化 master 节点节点数,cluster.initial_master_nodes: [“node-1”,“node-2”,“node-3”]
    • 集群最少几个节点可用,gateway.recover_after_nodes: 2
    • 开启每个几点跨域访问,http.cors.enabled: true、http.cors.allow-origin: “*”

文件目录结构

- cluster
	- node-1
		config/elasticsearch.yml
		plugins/ik-7.14.0
	- node-2
		config/elasticsearch.yml
        plugins/ik-7.14.0
	- node-3
		config/elasticsearch.yml
        plugins/ik-7.14.0

elasticsearch.yml(这是前面普通安装/config目录下的文件,修改或添加的地方)

# 指定集群名字 3个节点必须一致
cluster.name: es-cluster
# 指定节点名称,每个节点名字唯一
node.name: node-1
# 开放远程链接
network.host: 0.0.0.0
# 指定使用发布地址进行集群间通信(自己服务器地址)
network.publish_host: 192.168.159.100
# 指定 web 端口
http.port: 9201
# 指定 tcp 端口
transport.tcp.port: 9301
# 指定所有节点 tcp 通信
discovery.seed_hosts: ["192.168.159.100:9301","192.168.159.100:9302","192.168.159.100:9303"]
# 指定初始化集群的节点名称
cluster.initial_master_nodes: ["node-1","node-2","node-3"]
# 集群最少几个节点可用
gateway.recover_after_nodes: 2
# 解决跨域问题
http.cors.enabled: true
http.cors.allow-origin: "*"

每个elasticsearch.yml文件都在对应节点的/config目录下,使用节点node-1进行修改,如下图所示

对应每个node节点创建一个/plugins文件夹,用于存放ES插件,并将IK扩展插件如前面配置放入该文件夹中

docker-compose.yml

version: "3.8"
networks:
  escluster:
services:
  elasticsearch01:
    image: elasticsearch:7.14.0
    ports:
      - "9201:9201"
      - "9301:9301"
    networks:
      - "escluster"
    environment:
      - "ES_JAVA_OPTS=-Xms512m -Xmx512m"
    volumes:
      - ./node-1/data:/usr/share/elasticsearch/data
      - ./node-1/config/elasticsearch.yml:/usr/share/elasticsearch/config/elasticsearch.yml
      - ./node-1/plugins/ik-7.14.0:/usr/share/elasticsearch/plugins/ik-7.14.0
  
  elasticsearch02:
    image: elasticsearch:7.14.0
    ports:
      - "9202:9202"
      - "9302:9302"
    networks:
      - "escluster"
    environment:
      - "ES_JAVA_OPTS=-Xms512m -Xmx512m"
    volumes:
      - ./node-2/data:/usr/share/elasticsearch/data
      - ./node-2/config/elasticsearch.yml:/usr/share/elasticsearch/config/elasticsearch.yml
      - ./node-2/plugins/ik-7.14.0:/usr/share/elasticsearch/plugins/ik-7.14.0

  elasticsearch03:
    image: elasticsearch:7.14.0
    ports:
      - "9203:9203"
      - "9303:9303"
    networks:
      - "escluster"
    environment:
      - "ES_JAVA_OPTS=-Xms512m -Xmx512m"
    volumes:
      - ./node-3/data:/usr/share/elasticsearch/data
      - ./node-3/config/elasticsearch.yml:/usr/share/elasticsearch/config/elasticsearch.yml
      - ./node-3/plugins/ik-7.14.0:/usr/share/elasticsearch/plugins/ik-7.14.0

注意需要另外开启对外端口9201、9202、9203,如果还是启动不了,那就重启docker

异常错误

解决ElasticsearchException[failed to bind service\]; nested: AccessDeniedException[/usr/share/elasticsearch/data/nodes由于docker使用数据挂载的方式,访问节点中的data目录权限不够,需要修改每个节点data文件夹的权限

chmod -R 777 ./node-1/data/
chmod -R 777 ./node-2/data/
chmod -R 777 ./node-3/data/

测试访问:

  • http://ip:9201/
  • http://ip:9202/
  • http://ip:9203/

访问接口/_cat/health?v

  • Green - 所有数据都可用,主副分片都已经分配好
  • Yellow - 所有数据都可用,但尚未分配一些副本,不影响查询,可能影响恢复
  • Red - 某些数据由于某种原因 存在主分片未分配,对查询会有影响

由于个人虚拟机磁盘内存不够的问题,导致分片失败,大家可以尝试扩容自己的内存

11.2 集群状态 Head 插件使用

GitHub官网https://github.com/mobz/elasticsearch-head

注意】下载Linux源码的,是没有node_mudules文件夹的,需要手动安装node.js

Linux安装

# 1.访问github下载Linux安装包(建议解压之后再上传)

# 2.安装git
yum install git

# 3.将elasticsearch-head下载到本地
git clone https://github.com/mobz/elasticsearch-head.git

# 4.安装node.js	【注意】没有wget的先安装yum install -y wget
wget http://cdn.npm.taobao.org/dist/node/latest-v8.x/node-v8.1.2-linux-x64.tar.xz

# 5.解压缩nodejs
xz -d node-v10.15.3-linux-arm64.tar.xz
tar -xvf node-v10.15.3-linux-arm64.tar

# 6.配置环境变量
mv node-v10.15.3-linux-arm64 nodejs
mv nodejs /usr/nodejs
vim /etc/profile
################# 添加内容如下 #################
export NODE_HOME=/usr/nodejs
export PATH=$PATH:$JAVA_HOME/bin:$NODE_HOME/bin
###############################################

# 7.进入elasticsearch-head目录
npm config set registry https://registry.npm.taobao.org
npm install
npm run start

# 8.启动访问head插件,默认端口号为9100
http://ip:9100 查看集群状态

Windows安装

下载上图所示的windows安装包,解压后如下图所示

在当前目录下以管理员身份使用终端,输入以下命令

# 安装相应依赖
npm install

# 运行,默认前端端口9100
npm run start

访问测试

连接ES服务其中一个节点

有关ElasticSearch(十一)【集群搭建】的更多相关文章

  1. ruby - Rails Elasticsearch 聚合 - 2

    不知何故,我似乎无法获得包含我的聚合的响应...使用curl它按预期工作:HBZUMB01$curl-XPOST"http://localhost:9200/contents/_search"-d'{"size":0,"aggs":{"sport_count":{"value_count":{"field":"dwid"}}}}'我收到回复:{"took":4,"timed_out":false,"_shards":{"total":5,"successful":5,"failed":0},"hits":{"total":90,"max_score":0.0,"hits":[]},"a

  2. elasticsearch源码关于TransportSearchAction【阶段三】 - 2

    1.回顾.TransportServicepublicclassTransportServiceextendsAbstractLifecycleComponentTransportService:方法:1publicfinalTextendsTransportResponse>voidsendRequest(finalTransport.Connectionconnection,finalStringaction,finalTransportRequestrequest,finalTransportRequestOptionsoptions,TransportResponseHandlerT>

  3. ruby-on-rails - 使用 Rails (Tire) 和 ElasticSearch 进行模糊字符串匹配 - 2

    我有一个Rails应用程序,现在设置了ElasticSearch和Tiregem以在模型上进行搜索,我想知道我应该如何设置我的应用程序以对模型中的某些索引进行模糊字符串匹配。我将我的模型设置为索引标题、描述等内容,但我想对其中一些进行模糊字符串匹配,但我不确定在何处进行此操作。如果您想发表评论,我将在下面包含我的代码!谢谢!在Controller中:defsearch@resource=Resource.search(params[:q],:page=>(params[:page]||1),:per_page=>15,load:true)end在模型中:classResource'Us

  4. 美团外卖搜索基于Elasticsearch的优化实践 - 2

    美团外卖搜索工程团队在Elasticsearch的优化实践中,基于Location-BasedService(LBS)业务场景对Elasticsearch的查询性能进行优化。该优化基于Run-LengthEncoding(RLE)设计了一款高效的倒排索引结构,使检索耗时(TP99)降低了84%。本文从问题分析、技术选型、优化方案等方面进行阐述,并给出最终灰度验证的结论。1.前言最近十年,Elasticsearch已经成为了最受欢迎的开源检索引擎,其作为离线数仓、近线检索、B端检索的经典基建,已沉淀了大量的实践案例及优化总结。然而在高并发、高可用、大数据量的C端场景,目前可参考的资料并不多。因此

  5. 【详解】Docker安装Elasticsearch7.16.1集群 - 2

    开门见山|拉取镜像dockerpullelasticsearch:7.16.1|配置存放的目录#存放配置文件的文件夹mkdir-p/opt/docker/elasticsearch/node-1/config#存放数据的文件夹mkdir-p/opt/docker/elasticsearch/node-1/data#存放运行日志的文件夹mkdir-p/opt/docker/elasticsearch/node-1/log#存放IK分词插件的文件夹mkdir-p/opt/docker/elasticsearch/node-1/plugins若你使用了moba,直接右键新建即可如上图所示依次类推创建

  6. 【Elasticsearch基础】Elasticsearch索引、文档以及映射操作详解 - 2

    文章目录概念索引相关操作创建索引更新副本查看索引删除索引索引的打开与关闭收缩索引索引别名查询索引别名文档相关操作新建文档查询文档更新文档删除文档映射相关操作查询文档映射创建静态映射创建索引并添加映射概念es中有三个概念要清楚,分别为索引、映射和文档(不用死记硬背,大概有个印象就可以)索引可理解为MySQL数据库;映射可理解为MySQL的表结构;文档可理解为MySQL表中的每行数据静态映射和动态映射上面已经介绍了,映射可理解为MySQL的表结构,在MySQL中,向表中插入数据是需要先创建表结构的;但在es中不必这样,可以直接插入文档,es可以根据插入的文档(数据),动态的创建映射(表结构),这就

  7. ruby-on-rails - Elasticsearch 问题 : Cannot connect AWS elasticsearch service - 2

    我有一个关于配置elasticsearch以连接AWSelasticsearch服务以在生产环境中运行项目的问题。我的gem文件:gem'searchkick'gem'faraday_middleware-aws-signers-v4'gem'aws-sdk','~>2'gem"elasticsearch",">=1.0.15"引用:https://github.com/ankane/searchkick我的config/initializers/elasticsearch.rb文件:require"faraday_middleware/aws_signers_v4"ENV["ELAS

  8. 关于ES集群信息的一些查看 - 2

    文章目录查看ES信息查看节点信息查看分片信息实际场景下ES分片及副本数量应该怎么分关于ES的灵活使用查看ES信息查看版本kibana:GET/查看节点信息GET/_cat/nodes?v解释:ip:集群中节点的ip地址;heap.percent:堆内存的占用百分比;ram.percent:总内存的占用百分比,其实这个不是很准确,因为buff/cache和available也被当作使用内存;cpu:cpu占用百分比;load_1m:1分钟内cpu负载;load_5m:5分钟内cpu负载;load_15m:15分钟内cpu负载;node.role:上图的dilmrt代表全部权限master:*代表

  9. linux查看es节点使用情况,elasticsearch(es) 如何查看当前集群中哪个节点是主节点(master) - 2

    elasticsearch查看当前集群中的master节点是哪个需要使用_cat监控命令,具体如下。查看方法es主节点确定命令,以kibana上查看示例如下:GET_cat/nodesv返回结果示例如下:ipheap.percentram.percentcpuload_1mload_5mload_15mnode.rolemastername172.16.16.188529952.591.701.45mdi-elastic3172.16.16.187329950.990.991.19mdi-elastic2172.16.16.231699940.871.001.03mdi-elastic4172

  10. ruby - 在 Elasticsearch 中计算地理距离 - 2

    我在查询中使用geo_distancefilter和tire,它工作正常:search.filter:geo_distance,:distance=>"#{request.distance}km",:location=>"#{request.lat},#{request.lng}"我预计结果会以某种方式包括到我用于过滤器的地理位置的计算距离。有没有办法告诉elasticsearch在响应中包含它,这样我就不必在ruby​​中为每个结果计算它?==更新==我在谷歌群组中的foundtheanswer:search.sortdoby"_geo_distance","location"=>"

随机推荐