草庐IT

kibana操作es

文章目录es初探es官网介绍kibana操作es简单操作查询操作查询基本操作批量操作text和keyword高亮查询至此kibana操作es的一些常用操作就完成,更详细的可以看官方文档:下一节使用java代码操作eses初探es官网介绍kibana操作esElaticsearch,简称为es,对es的操作都是基于REST风格的操作;基本的操作有:PUT(创建,修改)POST(创建,修改)DELETE(删除)GET(查询)POST(查询);就是我们平常干的最多的增删改查;查询是最主要最复杂的.我贴的都是可以直接复制到kibana里面的,然后数据的大家可以自己多造一点,可以自己根据查询的造.简单操

elasticsearch 7.9.3知识归纳整理(一)之 es,kibana,ik的下载安装

es,kibana,ik的下载安装下载地址es下载地址:https://www.elastic.co/cn/downloads/elasticsearchkibana下载地址:https://www.elastic.co/cn/downloads/kibanaik中文分词器下载地址:https://github.com/medcl/elasticsearch-analysis-ik备注:打开比较慢,ie下载要快点。3个版本需完全一致一、elasticsearh的安装配置1.elasticsearh的文件准备1.1前提是linux已经安装了jdk8或以上版本解压es:tar-zxvfelasti

一文搞懂ES6的Map

什么是MapMap是ECMAScript6的新增特性,是一种新的集合类型,为javascript带来了真正的键/值存储机制。Map对象存有键值对,其中的键可以是任何数据类型。Map对象记得键的原始插入顺序。Map对象具有表示映射大小的属性。Map的基本API1、newMap()创建新的Map对象使用new关键字和Map构造函数可以创建一个空映射://创建新的Map对象。constm=newMap();如果想在创建的同时初始化实例,可以给Map构造函数传入一个可迭代对象,需要包含键/值对数组。可迭代对象中的每个键/值对都会按照迭代顺序插入到新映射实例中:constm1=newMap([["key

Elastic实战:canal自定义客户端,实现mysql多表同步到es

0.引言我们之前讲解了利用canal实现无代码入侵的同步mysql数据到elasticsearch,并且讲解了主子表数据如何同步。通过canal1.1.5实现mysql8.0数据增量/全量同步到elasticsearch7.xcanal同步mysql到es之父子表数据同步|对象型数组同步|nested数组同步但具体生产中,仍然有更加复杂的同步需求,之前也有几位同学咨询过我,因为canal只支持2张表的数据同步,并不支持3张表及以上的同步,当不少的业务需要3表以上的同步,这就需要我们自定义canal客户端来实现了,那么今天我们就来实操演示下自定义canal客户端,实现多表同步1.canal简介a

ES-聚合查询

1.概念聚合(aggs)不同于普通查询,是目前学到的第二种大的查询分类,第一种即“query”,因此在代码中的第一层嵌套由“query”变为了“aggs”。用于进行聚合的字段必须是exactvalue,分词字段不可进行聚合,对于text字段如果需要使用聚合,需要开启fielddata,但是通常不建议,因为fielddata是将聚合使用的数据结构由磁盘(docvalues)变为了堆内存(fielddata),大数据的聚合操作很容易导致OOM,详细原理会在进阶篇中阐述。聚合分类分桶聚合(Bucketagregations):类比SQL中的groupby的作用,主要用于统计不同类型数据的数量指标聚合

RuoYi-Vue-Plus(springboot)集成easy-es(含docker搭建ELK)

   从医疗数据库读取数据量大,防止遇到查询效率问题,准备用elasticsearch来做存储。听ruoyi-vue-plus狮子大佬推荐了easy-es,类似mybatis-plus一样操作。熟悉的语法熟悉的风格,像我这么懒的人自然会拿来用一下.只做代码的搬运工,从狮子大佬的另一款开源架构RuoYi-Cloud-Plus里复制出相关代码粘贴到ruoyi-vue-plus当中,又因为想到kibana是es的客户化工具,EK都有了,也不差一个Logstash了,索性将狮子大佬微服务架构的ELK搬运过来,以至于正常运行起来。记录其中点滴,以便将来换了新工作后,可以一步到位的集成,节约时间。    

Alibaba-Canal使用详解(排坑版)_MySQL与ES数据同步

canal概述用处canal主要用途是对MySQL数据库增量日志进行解析,提供增量数据的订阅和消费,简单说就是可以对MySQL的增量数据进行实时同步,支持同步到MySQL、Elasticsearch、HBase等数据存储中去。工作原理canal会模拟MySQL主库和从库的交互协议,从而伪装成MySQL的从库,然后向MySQL主库发送dump协议,MySQL主库收到dump请求会向canal推送binlog,canal通过解析binlog将数据同步到其他存储中去。1.版本这里我的MySQL和ES都安装在阿里云服务器上,MySQL版本为5.7,ES版本为7.14.2.下载下载地址Github,这里

SpringBoot写入ES(采用Kafka+logstash+ES)方式

兄弟们兄弟们。我又来了。之前Java程序直接写入ES。不知道有时候网络不好。还是啥情况。我这个写入就超时了。然后这条消息就会丢失。系统也嗷嗷报错。针对于这个情况。修改了一下写入ES的方式。程序将消息放入->Kafka->logstash进行消费后输出至->ES中。好了。废话不多说。老样子。大象装冰箱一共分3步步骤1、Java程序集成kafka-》用的springBootmaven-加入jar包org.springframework.kafkaspring-kafkaspring配置文件。增加配置spring:kafka:bootstrap-servers:kafka地址producer:#发生

ES - 滚动查询(scroll)

Elasticsearch-滚动查询scroll简介实践中我使用到滚动的场景from-size分页的缺点json处理步骤案例如下java处理步骤代码逻辑简化版java代码如下:简介  Elasticsearch滚动查询也叫游标查询  适合那种需要一次性或分批拉出大量数据做离线处理、迁移等。可以提升点效率。实践中我使用到滚动的场景需求需要从几个不同的es数据源拉取、截取数据,合到一个新的业务数据源中。每天夜里有定时任务需要拉取某天的索引数据,根据某个字段去重后拿去做离线业务处理。注意:scroll不适合支持那种实时的和用户交互的前端分页工作,实时分页查询可以使用from-size方式。但同时fr

ES权重boost查询

GET/my_index/_search{  "query":{    "bool":{             "should":[                  {"match":{          "email":{            "query":"lisi@mail.hisense.com.cn",            "boost":1888          }        }},                  {"match":{          "email":{            "query":"zhengwenqiang@mail.hisens