草庐IT

HA集群

全部标签

Linux实战——Zookeeper集群安装部署

Zookeeper集群安装部署简介ZooKeeper是一个分布式的,开放源码的分布式应用程序协调服务,是Hadoop和Hbase的重要组件。它是一个为分布式应用提供一致性服务的软件,提供的功能包括:配置维护、域名服务、分布式同步、组服务等。除了为Hadoop和HBase提供协调服务外,Zookeeper也被其它许多软件采用作为其分布式状态一致性的依赖,比如Kafka,又或者一些软件项目中,也经常能见到Zookeeper作为一致性协调服务存在。Zookeeper不论是大数据领域亦或是其它服务器开发领域,涉及到分布式状态一致性的场景,总有它的身影存在。安装Zookeeper是一款分布式的集群化软件

第05讲:手动模式构建双 Namenode+Yarn 的 Hadoop 集群(上)

本讲主要讲“手动模式构建双NameNode+Yarn的Hadoop集群”的内容。双NameNode实现原理与应用架构前面铺垫了那么多,现在是时候开始进入Hadoop的内容了,学习大数据运维,首先从安装、部署入手,这是大数据运维的基础,本课时将重点讲述如何构建企业级大数据应用平台。1.什么是双NameNode在分布式文件系统HDFS中,NameNode是master角色,当NameNode出现故障后,整个HDFS将不可用,所以保证NameNode的稳定性至关重要。在Hadoop1.x版本中,HDFS只支持一个NameNode,为了保证稳定性,只能靠SecondaryNameNode来实现,而Se

在纱线集群模式访问Controlexception上执行火花

我有一些SPARK代码,可以分析CSV文件中的输入数据集。当我以群集模式运行它时,我会遇到以下错误(在本地模式下它可以正常工作)。我的问题是:局部变量会影响不同工人的并行执行吗?我正在使用localfile作为输入。我必须使用HDFS文件吗?我相信RDD是并行的,并且输入文件可以存储在本地文件系统中。Exceptioninthread"main"org.apache.hadoop.security.AccessControlException:Permissiondenied:user=xxx,access=WRITE,inode="/":hdfs:supergroup:drwxr-xr-xa

二蛋赠书十六期:《高效使用Redis:一书学透数据存储与高可用集群》

很多人都遇到过这么一道面试题:Redis是单线程还是多线程?这个问题既简单又复杂。说他简单是因为大多数人都知道Redis是单线程,说复杂是因为这个答案其实并不准确。难道Redis不是单线程?我们启动一个Redis实例,验证一下就知道了。Redis安装部署方式如下所示://下载wgethttps://download.redis.io/redis-stable.tar.gztar-xzvfredis-stable.tar.gz//编译安装cdredis-stablemake//验证是否安装成功./src/redis-server-vRedisserverv=7.2.4接下来启动Redis实例,使

云原生内容分享(十五):云原生k8s集群安全隔离建设方案详解

目录前言一、云原生的技术背景二、云原生环境的网络隔离诉求三、传统防火墙在云原生中的捉襟见肘四、现有容器云平台隔离方案分析1、基于NetworkPolicy的容器隔离2、主机代理形态的工作负载微隔离五、容器云平台的安全隔离解决方案1、充分适应云原生环境特性2、提供可靠的策略设计辅助3、具备完善的策略管理能力4、跨平台、跨集群统一管理商用解决方案前言容器云平台的安全隔离方案旨在确保不同租户或工作负载之间的资源、网络和数据隔离,以防止未经授权的访问和潜在的数据泄露。以下是一些关键的安全隔离措施和方案:网络策略(NetworkPolicies):在Kubernetes等容器编排系统中,可以定义网络策略

RabbitMQ高可用集群搭建

RabbitMQ高可用架构理论简介消息队列中间件是分布式系统中重要的组件,主要解决应用耦合、异步消息、流量削锋等问题。实现高性能、高可用、可伸缩和最终一致性架构,是大型分布式系统不可缺少的中间件。目前在生产环境,使用较多的消息队列有ActiveMQ、RabbitMQ、Kafka、RocketMQ等。RabbitMQ是一套开源(MPL)的消息队列服务软件,是由LShift提供的一个AdvancedMessageQueuingProtocol(AMQP)的开源实现,由以高性能、健壮以及可伸缩性出名的Erlang写成。Rabbitmq的集群是依附于erlang集群来工作的,所以必须先构建起一个erl

开源大数据集群部署(九)Ranger审计日志集成(solr)

作者:櫰木1、下载solr安装包并解压包tar-xzvfsolr-8.11.2.gzcdsolr-8.11.2执行安装脚本./bin/install_solr_service.sh/opt/solr-8.11.2.tgz安装后,会在/etc/default/下生成solr.in.sh文件。2、在rangeradmin下生成solr相关配置cd/opt/ranger-2.3.0-admin/contrib/solr_for_audit_setup/编辑install.properties#LicensedtotheApacheSoftwareFoundation(ASF)underoneormo

k8s部署 多master节点负载均衡以及集群高可用

一、k8s添加多master节点实验1、master02节点初始化操作2、在master01节点基础上,完成master02节点部署①从master01节点复制所需要的文件需要从master01节点复制etcd数据库所需要的ssl证书、kubernetes安装目录(二进制文件、组件与apiserver通信的集群引导文件、启动参数配置文件)、kubectl与apiserver通信的集群引导文件、各组件被systemd管理的service文件②修改apiserver、controller-manager、scheduler启动参数配置文件中的监听地址以及apiserver的通告地址③验证二、使用n

mac上搭建hbase伪集群

1.前言之前我们已经搭建过了hbase单点环境,(单机版搭建参见:https://blog.csdn.net/a15835774652/article/details/135569456)但是为了模拟一把集群环境我们还是尝试搭建一个伪集群版2.环境准备jdk环境1.8+hdfs(hadoop环境可选)搭建参考https://blog.csdn.net/a15835774652/article/details/1355727603.配置搭建过hadoop才发现hbase环境配置如此之少可能hadoop东西比较多的缘故配置jdk修改conf/hbase-env.sh#修改为自己的jdkexport

教你如何用Keepalived和HAproxy配置高可用 Kubernetes 集群

本文分享自华为云社区《使用Keepalived和HAproxy创建高可用Kubernetes集群》,作者:江晚正愁余。高可用Kubernetes集群能够确保应用程序在运行时不会出现服务中断,这也是生产的需求之一。为此,有很多方法可供选择以实现高可用。本教程演示了如何配置Keepalived和HAproxy使负载均衡、实现高可用。步骤如下:准备主机。配置Keepalived和HAproxy。使用KubeKey创建Kubernetes集群,并安装KubeSphere。集群架构示例集群有三个主节点,三个工作节点,两个用于负载均衡的节点,以及一个虚拟IP地址。本示例中的虚拟IP地址也可称为“浮动IP地