草庐IT

为什么需要设置System.setProperty(“es.set.netty.runtime.available.processors“, “false“);

为什么需要设置System.setProperty(“es.set.netty.runtime.available.processors”,“false”); Elasticsearch和Redis底层都使用到了Netty,在项目启动时会冲突。 配置es.set.netty.runtime.available.processors设置为false就不会去检查Netty处理器是否配置。 Elasticsearch底层使用了Netty4Util 解决方法:在ElasticSearch启动前设置es.set.netty.runtime.available.processors==false,就会直

ES分组查询,统计组名

项目场景:ES数据查询问题描述需要通过分组查询的方式,获取每个组的组名,以及每组数据的个数解决方案:GETbr/_search{"query":{"bool":{"must":[{"term":{"tm_.keyword":{"value":""}}}]}},"aggs":{"incls":{"terms":{"field":"i_cs.keyword","size":45}}},"size":1}可以通过聚合函数aggs去查询记录一下。

docker restart xxx重启容器报错:Error response from daemon: Cannot restart container es: driver failed prog

1.报错:  2.原因:重启服务器后,我重启过网络network。我想大概是这个影响了docker 的网络。3.解决: 重启docker服务即可:systemctlrestartdocker4.重启容器即可成功dockerrestart容器名  

es logstash Failed to install template.{:message=>“Got response code ‘500‘

Failedtoinstalltemplate.{:message=>"Gotresponsecode'500'contactingElasticsearchatURL'http://xxxxx:9200/_xpack'",:class=>"LogStash::Outputs::ElasticSearch::HttpClient::Pool::BadResponseCodeError",:backtrace=>["/Users/qitianming/workTool/logstash-7.4.0/vendor/bundle/jruby/2.5.0/gems/logstash-output-el

spark写入es出现部分数据重复问题排查和解决

问题背景作业流程是从hive读取数据处理后写入es,一直跑的很正常,突然今天发现部分数据重复了问题排查由于是长期正常运行的作业未发生变更,且排查了上游hive表不存在数据重复问题,首先排除了数据和逻辑问题spark作业是运行成功的,不存在作业失败重试的问题推测是spark作业内部存在失败重试的问题,于是查看了sparkhistoryjob的timeline看到下面这个图表,可以确认是由于11、13节点在写入部分数据后失败了,yarn启动了21、22重新执行导致11、13写入的数据又写了一次问题原因导致问题出现的原因有两个,一个是spark2本身shuffle不稳定,且作业运行在任务高峰时段,集

ES实战系列-Elasticsearch安装

文章目录Elasticsearch安装下载7.8.1版本集群部署安装报错创建用户ES安装集群安装管理注意事项es不能使用root用户运行错误:索引文件个数限制bind错误发送信息给master失败插件安装ES-HEADES-SQLcerebro安装kibana安装7.8.1安装中文分词器docker安装ik分词器测试分词效果对比报错Elasticsearch安装下载7.8.1版本wgethttps://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-7.8.1-linux-x86_64.tar.gzwgethttps://a

es获取mapping中所有的字段(回溯)

        有时候想看看es中某个索引中所有的字段,直接通过查询mapping是很难看出所有的字段的,里面包含的属性太多了。本博文将实现获取mapping中所有字段的算法。示例new_user2索引中的mapping值:{ "new_user2":{ "mappings":{ "properties":{ "address":{ "properties":{ "city":{ "type":"text", "fields":{ "keyword":{ "type":"keyword", "i

warning: usage of JAVA_HOME is deprecated, use ES_JAVA_HOME

elasticsearch-7.15.2启动时警告信息:1"warning: usage of JAVA_HOME is deprecated, use ES_JAVA_HOME"译文的含义是指“警告:不推荐使用JAVA_HOME,请使用ES_JAVA_HOME”。elasticsearch7系列版本以上都是自带的jdk,可以在es的bin目录下找到elasticsearch-env.bat这个文件,配置es的jdk。官方推荐使用es自带的jdk。假如需要配置指定的jdk版本的话,需注意考虑版本兼容性,修改elasticsearch-env.bat文件,具体内容参考如下:12345678910

淘宝太细了:mysql 和 es 的5个一致性方案,你知道吗?

说在前面在40岁老架构师尼恩的读者交流群(50+)中,最近有小伙伴拿到了一线互联网企业如拼多多、极兔、有赞、希音的面试资格,遇到一几个很重要的面试题:说5种mysql和elasticsearch数据一致性方案与之类似的、其他小伙伴遇到过的问题还有:Mysql和ES数据一致性问题及方案?Mysql和redis数据一致性问题及方案?如果保证Mysql和redis数据一致性?如果保证Mysql和HBase数据一致性?等等等等…这里尼恩给大家做一下系统化、体系化的线程池梳理,使得大家可以充分展示一下大家雄厚的“技术肌肉”,让面试官爱到“不能自已、口水直流”。也一并把这个题目以及参考答案,收入咱们的《尼

ES集群重新设置密码(第二次执行.elasticsearch-setup-passwords interactive报错)

错误信息当为es集群设置完一次密码之后,再次执行相同的命令./elasticsearch-setup-passwordsinteractive报错:Failedtoauthenticateuser'elastic'againsthttp://172.16.xxx.xxx:9200/_security/_authenticate?prettyPossiblecausesinclude:*Thepasswordforthe'elastic'userhasalreadybeenchangedonthiscluster*Yourelasticsearchnodeisrunningagainstadif