草庐IT

集群NoSQL

全部标签

centos 搭建 zookeeper 高可用集群

zookeeper-ha主机名IP地址spark01192.168.171.101spark02192.168.171.102spark03192.168.171.1031.升级内核和软件yum-yupdate2.安装常用软件yum-yinstallgccgcc-c++autoconfautomakecmakemake\zlibzlib-developensslopenssl-develpcre-devel\rsyncopenssh-servervimmanzipunzipnet-toolstcpdumplrzsztarwget3.关闭防火墙sed-i's/SELINUX=enforcing/

关于ES集群规模规划

在搭建正式的生产集群之前,充分做好硬件和服务器配置以及集群规划是重中之重,磨刀不误砍柴工。硬件配置推荐内存ES排序以及聚合都是高度需求内存的。单机(单节点)64GB是很理想的配置,32GB或16GB也很常见。不推荐低于8GB,性价比较低,适得其反(很多的小机器也不划算)。JVM堆内存:存储关于集群、索引、分片、段和Fielddata的元数据。该项较为理想的设置是可用RAM的50%。所以上面的64GB内存并不是直接分给ES的heapsize。【重要】ES_HEAP_SIZE这个值最大设置30GB,其余的留给OS,因Lucene还要使用offheap并依赖系统缓存。Lucene被设计为利用底层操作

分布式数据库Apache Doris HA集群部署

📢📢📢📣📣📣哈喽!大家好,我是【IT邦德】,江湖人称jeames007,10余年DBA及大数据工作经验一位上进心十足的【大数据领域博主】!😜😜😜中国DBA联盟(ACDU)成员,目前服务于工业互联网擅长主流Oracle、MySQL、PG、高斯及Greenplum运维开发,备份恢复,安装迁移,性能优化、故障应急处理等。✨如果有对【数据库】感兴趣的【小可爱】,欢迎关注【IT邦德】💞💞💞❤️❤️❤️感谢各位大可爱小可爱!❤️❤️❤️文章目录前言📣1.部署环境✨1.1架构规划✨1.2集群规划✨1.3网络需求📣2.前期准备✨2.1系统文件限制✨2.2关闭交换内存✨2.3内核修改✨2.4时间同步✨2.5ja

从零开始搭建hadoop集群(一)虚拟机Vmware的下载安装和CentOS的下载安装(最新版)

一、Vmware的下载安装1.官网下载Vmware。(根据你的电脑选择版本Windows或者Linux)官网链接:下载VMwareWorkstationPro|CN2.下载完成后点击开始安装:(1)下一步。 (2)接受,下一步。(3)直接点击下一步(增强型键盘不点)。 (4)下一步。(5)下一步。(6)安装。 (7)完成。 (8)许可证密钥可在百度搜索“VMwareWorkstation17Pro密钥大全”获取。二、CentOS的下载安装CentOS的镜像文件网盘分享:链接:https://pan.baidu.com/s/1yMbmKTvINq3FBPerrqlDLw?pwd=y542 提取码

解决ZooKeeper集群的启动报错,出现Error contacting service. It is probably not running问题

一:在搭建ZooKeeper集群后启动其中一个节点报错输入ZooKeeper启动命令zkServer.shstart之后,显示STARTED我们使用jps查看状态:这里面看起来好像是启动了,但是我们用上面的再用命令zkServer.shstatus查看状态时,出现报错:报错显示:JMXenabledbydefaultUsingconfig:/usr/ocal/soft/zookeeper-3.4.6/bin/…/conf/zoo.cfgErrorcontactingservice.Itisprobablynotrunning.显示这个是没有正常启动的。二:这时候我们需要查看目录下的日志查看报错

记录一次hadoop集群上secondarynamenode无法启动的bug的解决办法

这里写自定义目录标题这个错误其实是由于重复格式化导致namenode和datanode的namespaceID和clusterID不一致引起的解决方法如下:解决方案:1.关闭所有服务并重启(保证Hadoop的服务被杀死)2.清理:将hadoop的根目录中的data,logs全部删除(三台节点)rm-rf$HADOOP_HOME/data$HADOOP_HOME/logs将/tmp下的内容全部删除sudorm-rf/tmp/*3.重新格式化hdfsnamenode-format

Hadoop 分布式集群搭建教程(2023在校生踩坑版)

博主本人,民办本科数据科学与大数据技术专业在读生,配置Hadoop过程中,遇到了好多好多坑,大部分遇到的问题都是因为课本上的代码和名称适用于Hadoop2.x,而现在主流已经变为Hadoop3.x,我不可能拐回去学习老版本,而且网上找的教程也都是Hadoop3.x,并且杂乱无章,如果按照网上的教程来,课本后面几章的内容不兼容会出现更多的bug....为此我整理了这篇博客,希望可以帮助到跟博主同样情况的同学们。同时希望大家可以点赞关注收藏支持一下T.T...学校课本:Hadoop大数据处理实战上海交通大学出版社根据学校课本的教程一步一步来,踩了巨多坑!Hadoop3.x版本往后更新换代了很多东西

3.Hadoop集群搭建

3.Hadoop集群搭建3.1安装JDK如果Linux中有自带的JDK一定要先卸载,参考配置模板机中卸载原始JDK的操作。卸载完成后再进行安装,安装JDK需要使用远程传输工具将安装包上传到Linux系统中,具体安装流程如下:用远程传输工具将JDK导入到opt目录下面的software文件夹下面。上传完成后可以在/opt/software/目录中查看到jdk的详细情况解压JDK到/opt/module目录下:[root@hadoop102software]#tar-zxvfjdk-8u212-linux-x64.tar.gz-C/opt/module/配置JDK环境变量新建/etc/profil

鲲鹏920 arm 加 x86服务器混合搭建k8s集群并安装kubesphere平台

文章目录鲲鹏920arm+x86架构混合搭建k8s集群并安装kubesphere1、服务器准备:1.1、x86服务器:1.2、鲲鹏920arm服务器2、创建master节点:2.1环境配置:2.2安装时间同步服务器2.3设置hostname:2.4安装k8s和kubesphere3、搭建node节点并加入集群3.1环境搭建:3.2安装时间同步服务器3.3安装docker:3.4安装kubeadm等组件3.5设置hostname:3.6加入集群附录:命令详解集:1、环境配置:2、安装时间同步器3、设置hostname4、安装网络工具和跟踪5、给master打上污点:6、问题解决:鲲鹏920arm

从入门到进阶 之 ElasticSearch 节点配置 集群篇

🌹以上分享ElasticSearch安装部署,如有问题请指教写。🌹🌹如你对技术也感兴趣,欢迎交流。🌹🌹🌹如有需要,请👍点赞💖收藏🐱‍🏍分享linux配置elastictsearch集群 详解ElasticSearchKibana配置部署_PJ码匠人的博客-CSDN博客Elasticsearch安装,配置文件参数修改,错误修复,用户验证,kibana安装配置,参数设置https://meyan.blog.csdn.net/article/details/132580977windows 配置elastictsearch集群链接:https://pan.baidu.com/s/1V7jxVhUFv