草庐IT

HA集群

全部标签

【kafka+Kraft模式集群+SASL安全认证】

kafka+Kraft模式下的集群配置SASL安全认证kafka+Kraft模式下的集群配置配置kafka服务的配置文件创建一个kafkasasl认证的服务配置配置kafka服务的启动脚本启动kafka集群生成kafka集群uuid格式化所有存储目录启动kafka服务器停止运行查看是否启动kafka可视化客户端配置springboot项目配置文件kafka+Kraft模式下的集群配置准备3个kafka,我这里用的kafka版本为:kafka_2.13-3.6.0,下载后解压:tarzxvfkafka_2.13-3.6.0.tgz更改解压后的文件名称:cpkafka_2.13-3.6.0kafk

【大白学Docker】Docker Swarm 集群部署 Wordpress【实验】

DockerSwarm集群部署Wordpress1.知识预备1.1Docker集群概念和优势Docker集群是由多个Docker主机组成的分布式系统,用于协同管理和运行容器化应用程序。这个集群可以通过DockerSwarm或Kubernetes等容器编排工具来实现。Docker集群的几个概念节点(Node):集群中的物理或虚拟主机,可以运行Docker守护进程。集群管理器(ClusterManager):DockerSwarm或Kubernetes等容器编排工具,用于协调和管理整个集群。服务(Service):定义容器应该如何运行的规范,包括镜像、端口映射等。集群管理器根据服务规范在节点上创建

【Rancher】Rancher 2.6.x 搭建Kubernetes集群

 Rancher是一个开源的项目,提供了在产品环境中对Docker容器进行全方位管理的平台。它提供的基础架构服务包括多主机网络、全局和局部的负载均衡、卷快照等。集成了原生Docker管理能力,包括:DockerMachine和DockerSwarm。Rancher还提供了丰富用户体验的管理功能。Rancher支持多种编排系统,支持多种IaaS网络服务和裸机。其架构如下:前置操作:🍃 我的物理机硬件:i5-12400CPU、12核、16G🍃VMware虚拟机配置,受限于我的电脑配置瓶颈,k8snode3这个节点我可能不会用上,不过可以把k8snode3这个节点和k8sMaster节点放在同一台机

Kafka集群调优+能力探底

一、前言我们需要对4个规格的kafka能力进行探底,即其可以承载的最大吞吐;4个规格对应的单节点的配置如下:标准版:2C4G铂金版:4C8G专业版:8C16G企业版:16C32G另外,一般来讲,在同配置下,kafka的读性能是要优于写性能的,写操作时,数据要从网卡拷贝至堆内存,然后进行一堆数据校验、解析后,会将数据拷贝至堆外内存,然后再拷贝至操作系统的pagecache,最后操作系统异步刷盘至设备中。而读操作时,kafka使用了零拷贝技术,数据会从disk或pagecache直接拷贝到网卡,节省了大量的内存拷贝。因此我们这次探底将聚焦于链路的短板,即kafka的写操作进行压测注:本文不是专业的

使用Slurm集群进行分布式图计算:对Github网络影响力的系统分析

本文分享自华为云社区《基于Slurm集群的分布式图计算应用实践:Github协作网络影响力分析》,作者:yd_263841138。1.引言Slurm(SimpleLinuxUtilityforResourceManagement)是一个针对小型Linux集群的开源、容错、高可扩展的集群管理及作业调度系统,它具备统一管理集群内的计算资源、管理任务调度、监控作业任务等功能,能够在并行程序开发、验证过程中省去对集群计算资源管理配置的冗杂过程,高效助力分布式并行程序开发。Gemini 是一个轻量级分布式图计算框架,其是后续多款大规模图计算框架的原型模板。Gemini既支持单机运行,也可以分布式多机运行

Nacos 单机集群搭建及常用生产环境配置 | Spring Cloud 3

一、Nacos概览Nacos/nɑ:kəʊs/是DynamicNamingandConfigurationService的首字母简称,一个更易于构建云原生应用的动态服务发现、配置管理和服务管理平台。Nacos致力于帮助您发现、配置和管理微服务。Nacos提供了一组简单易用的特性集,帮助您快速实现动态服务发现、服务配置、服务元数据及流量管理。Nacos帮助您更敏捷和容易地构建、交付和管理微服务平台。Nacos是构建以“服务”为中心的现代应用架构(例如微服务范式、云原生范式)的服务基础设施。服务(Service)是Nacos世界的一等公民。Nacos支持几乎所有主流类型的“服务”的发现、配置和管理

一站式 Elasticsearch 集群指标监控与运维管控平台

上篇文章写了一下消息运维管理平台,今天带来的是ES的监控和运维平台。目前初创企业,不像大型互联网公司,可以重复的造轮子。前期还是快速迭代试错阶段,方便拿到市场反馈,及时调整自己的战略和产品方向。让自己活下去,话不多说开始今天的分享。一、项目介绍KnowSearch是基于滴滴内部开发的的一套ES搜索平台(内部代号Arius)优化开源而来,它是滴滴搜索团队的一整套ES搜索服务和治理体系化思考的全面展现。内部使用情况:目前滴滴内部ES集群的规模在60+集群,2500+节点,10PB的数据,1500w写入TPS,10w+查询QPS。KnowSearch提供了一套体验环境,地址如下:体验地址:http:

hive表向es集群同步数据20230830

背景:实际开发中遇到一个需求,就是需要将hive表中的数据同步到es集群中,之前没有做过,查看一些帖子,发现有一种方案挺不错的,记录一下。我的电脑环境如下软件名称版本Hadoop3.3.0hive3.1.3jdk1.8Elasticsearch7.10.2kibana7.10.2logstash7.10.2ES-Hadoop7.10.2ES-Hadoop的引入hadoop、hive和es的关系如下图,中间有一个组件叫做ES-Hadoop,是连接Hadoop和es的桥梁,es的官网上提供了这个组件,解决Hadoop和es之间的数据同步问题。下面说一下数据同步的具体步骤第一步:去es的官网上下载E

HadoopHA模式(由于Hadoop的HA模式是在Hadoop完全分布式基础上,利用zookeeper等协调工具配置的高可用的Hadoop集群模式)

目录1.前期准备1.1.hadoop-3.1.3.tar.gz,jdk-8u212-linux-x64.tar.gz,apache-zookeeper-3.5.7-bin.tar.gz三个包提取码:k5y62.解压安装包,配置环境变量3.将三个节点分别命名为master、slave1、slave2并做免密登录免密在前面Hadoop完全分布式搭建说过,这里不再赘述4.搭建zookeeper集群 根据配置的路径新建zkdata,zkdatalog目录。然后到zkdata目录中可以touch新建一个文件myid,也可以直接echo写入为1,另外slave1,salve2分别对应2,3。​编辑 5.分

Linux虚拟机系统Ubuntu搭建Hadoop集群

目录一、安装VMwareWorkstation15.1二、下载Ubuntu镜像三、安装Ubuntu镜像 更改阿里云镜像源四、配置JAVA环境五、配置安装Hadoop修改虚拟机名称配置SSH免密登录  配置集群环境分发文件启动Hadoop数据分析一、安装VMwareWorkstation15.1 安装路径:VMwareWorkstation15.1兼容win10https://www.aliyundrive.com/s/uUNpgqctbi9提取码:ix71二、下载Ubuntu镜像这里推荐直接进入Ubuntu的官网进行下载:Ubuntu20.04三、安装Ubuntu镜像 6.可以自己改虚拟机的名