草庐IT

HA集群

全部标签

HDFS集群的常见命令(一)

切记在hadoop用户下进行,记得从root切换(su-hadoop)一,启停命令1.一键启停  #一键启动hdfs集群start-dfs.sh#一键关闭hdfs集群stop-dfs.sh2.单进程启停1.$HADOOP_HOME/sbin/hadoop-daemon.sh,此脚本可以单独控制所在机器的进程的启停用法:hadoop-daemon.sh(start|status|stop)(namenode|secondarynamenode|datanode)2.$HADOOP_HOME/bin/hdfs,此程序也可以用以单独控制所在机器的进程的启停用法:hdfs--daemon(start|

特斯拉被黑客攻击?如何保护您的Kubernetes集群并阻止黑客?

2018年黑客入侵了特斯拉在亚马逊上的Kubernetes容器集群。由于该集群控制台未设置密码保护,黑客便得以在一个Kubernetespod中获取到访问凭证,然后据此访问其网络存储桶S3,通过S3获取到了一些敏感数据,比如遥测技术,并且还在特斯拉的Kubernetespod中进行挖矿。黑客们潜入到了没有密码保护的Kubernetes管控台。在一个Kubernetespod里面,盗取了Tesla的公有云环境的访问权限,而对应公有云环境中则存放着如telemetry的敏感数据。除了裸露的数据之外,RedLock还注意到此次攻击中一些更为复杂的检测躲避手段。首先,没有使用知名的公共“矿池”。他们安

Linux-一篇文章,速通Hadoop集群之伪分布式,完全分布式,高可用搭建(附zookeeper,jdk介绍与安装)。

文章较长,附目录,此次安装是在VM虚拟环境下进行。文章第一节主要是介绍Hadoop与Hadoop生态圈并了解Hadoop三种集群的区别,第二节和大家一起下载,配置Linux三种集群以及大数据相关所需的jdk,zookeeper,只需安装配置的朋友可以直接跳到文章第二节。同时,希望我的文章能帮助到你,如果觉得我的文章写的不错,请留下你宝贵的点赞,谢谢。目录一、了解HadoopHadoop什么是HadoopHadoop的历史Hadoop的特点Hadoop的生态系统1.HDFS2.MapReduce3.YARN4.Hive5.HBase6.Oozie7.Mahout8.spark9.Flink10.

GaussDB(DWS)集群通信:详解pooler连接池

本文分享自华为云社区《GaussDB(DWS)集群通信系列一:pooler连接池》,作者:半岛里有个小铁盒。1.前言适用版本:【8.1.0(及以上)】GaussDB(DWS)为MPP型分布式数据库,使用ShareNothing架构,数据分散存储在各个DN节点,而CN不存储数据,作为接收查询的入口,生成的计划会尽量下推到DN并行执行以提升性能,此过程中会产生大量的建连操作,使得通信开销变得很大。因此在大数据时代,集群规模越来越大,业务并发越来越高,数据库集群各节点间的通信压力也越来越大。GaussDB(DWS)集群通信技术,在大规模集群中可以承载高并发业务,能够实现高性能分布式通信系统。2.背景

CCE集群VPC网络模式下几种访问场景

本文分享自华为云社区《【理解云容器网络】5-CCE集群VPC模型容器网络走线介绍》,作者:可以交个朋友。简介鉴于在CCE集群使用VPC网络模型,处理遇到的一些网络问题时,需要熟悉不同场景下数据包的流转过程,才能快速的解决问题。本文主要介绍CCE集群VPC网络模式下各种访问场景介绍。VPC网络模型不同访问场景走线VPC网络模型下,容器子网不属于VPC网段,跨节点容器互访除了隧道封装还可以通过路由实现,需要为每个节点划分固定的容器子网,比如节点Node1上所有容器ip都在子网172.16.0.0/25内,VPC路由表将目的ip属于172.16.0.0/25子网的数据包全部转给节点Node1处理,N

Redis 架构深入:主从复制、哨兵到集群

大家好,我是小康,今天我们来聊下Redis的几种架构模式,包括主从复制、哨兵和集群模式。前言:设想一下,你的咖啡馆在城市中太受欢迎,导致每天都人满为患。为了缓解这种压力,你决定在其他地方开设分店,这样顾客就可以在附近的分店享受咖啡,而不必涌向一个地方,这就好比Redis的主从复制,让数据备份并允许多个地方进行读取。但这还不够,因为你需要确保当主要的咖啡馆遇到问题时,例如突然断电,有其他分店能够迅速接手,成为新的主要店铺,继续为顾客提供服务。这就像Redis的哨兵系统,它会自动检测故障并进行转移,确保服务始终在线。最后,随着咖啡馆连锁店的增长,每家店都开始独立运作,甚至可能有自己的特色饮品和优惠

6.1 Elasticsearch(一)Docker搭建ES集群

文章目录1.环境准备1.1关闭防火墙1.2准备虚拟机1.3导入镜像1.4虚拟机设置max_map_count2.集群部署结构2.1准备虚拟网络和挂载目录2.2启动Elasticsearch集群2.2.1node1配置内容2.2.2node2配置内容2.2.3node3配置内容2.2.4环境变量说明2.3查看启动结果3.chrome浏览器插件:elasticsearch-head1.环境准备Elasticsearch是一个分布式搜索引擎服务器,搜索引擎有自己专门的搜索引擎服务器,而不是依靠数据库来做,我们搜索内容时,如果使用数据库来做,则需要模糊查询数据库中所有的数据,一条一条的去顺序比对,这种

java - 使用 SparkConf 连接到远程 Cassandra 集群时如何获得 pass "requires authentication"?

我正在尝试使用apachespark和cassandra进行数据分析。所以我写了一个java代码来访问在远程机器上运行的cassandra。我使用了以下java代码。publicclassJavaDemoimplementsSerializable{privatetransientSparkConfconf;privateJavaDemo(SparkConfconf){this.conf=conf;}privatevoidrun(){JavaSparkContextsc=newJavaSparkContext(conf);generateData(sc);compute(sc);sho

多台es服务器搭建elasticsearch集群,es单机伪集群搭建,在一台服务器上以三个不同的端口模拟三台主机完成es伪集群搭建,windows和Linux操作方法一致

目录(一)es单机伪集群搭建一、准备三台elasticsearch服务器(复制三个es目录)二、修改每台服务器的配置1.修改es配置文件2.配置注意(二)多台服务器es集群搭建:1安装es服务:2搭建集群:(一)es单机伪集群搭建一、准备三台elasticsearch服务器(复制三个es目录)1.把单机环境下载的es的安装包,复制三份,分别命名为:es-cluster-01,es-cluster-02,es-cluster-03,如图: 2.把3个ES服务器安装目录下的data目录以及下面的数据删除,确保三台主机数据一致。(不删除data/*,会导致集群创建失败。data下面就是lucene的

使用kubeadm部署k8s集群

一、实验准备及IP规划角色主机名IP建议配置master节点master-01192.168.17.1102C4Gworker节点worker-01192.168.17.1202C4G要求两台主机都可以联网二、master节点操作1.修改主机名hostnamectlset-hostnamemaster2.增加主机间解析记录cat>>/etc/hostsEOF192.168.17.110master192.168.17.120workerEOF3.关闭防火墙&&设置开机不自启systemctldisablefirewalldsystemctlstopfirewalld4.验证防火墙被禁用syst